TI论坛
直播中

李贤杰

7年用户 183经验值
私信 关注
[问答]

请问IQmath中q精度怎么确定呢

如果我输入0.127079876,则q精度应取多少呢??

回帖(3)

李秋年

2018-10-16 10:45:45
可以取IQ30,精度最高为0.000 000 001,当然其表示的数值范围最小,在正负2之间。表示数值范围更大点的IQ格式其精度相应也会更低。
举报

李贤杰

2018-10-16 10:58:00
引用: szoldman 发表于 2018-10-16 11:31
可以取IQ30,精度最高为0.000 000 001,当然其表示的数值范围最小,在正负2之间。表示数值范围更大点的IQ格式其精度相应也会更低。

你好,请问每一精度对应的范围,可以告诉我吗?谢谢
举报

李秋年

2018-10-16 11:14:49
引用: nowna 发表于 2018-10-16 11:43
你好,请问每一精度对应的范围,可以告诉我吗?谢谢

在附件中文档的第10页有每种Q格式的精度。
举报

更多回帖

发帖
×
20
完善资料,
赚取积分