TI论坛
直播中

冯栋

7年用户 180经验值
私信 关注
[问答]

请问tms320c6670中TCP3D的软量都是INT8字型的?

本帖最后由 一只耳朵怪 于 2018-6-25 14:58 编辑

不能是INT16字型的?
INT8精度不够呀~

回帖(3)

杨娟

2018-6-25 01:21:23
您好,
你说的软量是啥意思,指的是软比特么?TCP3d输入的软比特要求的是6bit幅度范围,也就是-31~31。怎么会精度不够呢?这就要求你前面的处理保证输入的信息都是有效bit。
                                                                          

举报

冯栋

2018-6-25 01:33:51
引用: zbb9612 发表于 2018-6-25 01:21
您好,
你说的软量是啥意思,指的是软比特么?TCP3d输入的软比特要求的是6bit幅度范围,也就是-31~31。怎么会精度不够呢?这就要求你前面的处理保证输入的信息都是有效bit。
                                                                          

嗯~是的,最小的精度达到0.125时幅度范围为-4到3.825。感觉这个范围很小,要是用ASIC设计定点化后软比特都能用13bit幅度范围,这精度是不是有点太低啦?
为什么软比特只能是6bit的幅度?
举报

杨娟

2018-6-25 01:51:09
引用: Xiaoyu_Zh 发表于 2018-6-25 01:33
嗯~是的,最小的精度达到0.125时幅度范围为-4到3.825。感觉这个范围很小,要是用ASIC设计定点化后软比特都能用13bit幅度范围,这精度是不是有点太低啦?
为什么软比特只能是6bit的幅度?

您好,
没太理解前面的意思。
6bit是TCP3d对输入有效bit的限制,具体可以看看手册,有明确说明。
                                                                          

举报

更多回帖

发帖
×
20
完善资料,
赚取积分