完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
|
labview中数值的小数位精度问题：
我现在有一个19.97十进制数值，在进行for循环，每循环一次减去一个不同的值，最后19.97变成0.01.再循环的时候跟0.01进行比较，我运行的结果却是相减后的0.01与我指定的0.01不相等，我把所有数值的精度都改为了2位精度位数，还是不行，请大神赐教啊 
0
|
|
相关推荐
3个回答
|
|
|
关注下，和我之前遇到的问题很像
|
|
|
|
|
|
请问，19.97应该叫十进制数值？这是浮点数，浮点数的相等比较是无意义的，为什么无意义？自己百度
|
|
|
|
|
|
目前问题算是解决了，我是19.97乘个100，这样就变成整数了
|
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
643 浏览 2 评论
NI Vision有个图片打不开其他图都能打开（用NI Vision Assistant也打开不了）
1073 浏览 1 评论
labview2015使用Excel报表程序打包生成后打开程序要选一个vi才能使用，否则软件就会报错，这是什么问题？
1648 浏览 2 评论
LabVIEW与单片机无法串口通信 提示串口打开错误 端口设置有问题吗？
1591 浏览 3 评论
1854 浏览 2 评论
/7 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
10498
评论
淘帖
227
