完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
|
labview中数值的小数位精度问题：
我现在有一个19.97十进制数值，在进行for循环，每循环一次减去一个不同的值，最后19.97变成0.01.再循环的时候跟0.01进行比较，我运行的结果却是相减后的0.01与我指定的0.01不相等，我把所有数值的精度都改为了2位精度位数，还是不行，请大神赐教啊 
0
|
|
相关推荐
3个回答
|
|
|
关注下，和我之前遇到的问题很像
|
|
|
|
|
|
请问，19.97应该叫十进制数值？这是浮点数，浮点数的相等比较是无意义的，为什么无意义？自己百度
|
|
|
|
|
|
目前问题算是解决了，我是19.97乘个100，这样就变成整数了
|
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
225 浏览 0 评论
868 浏览 0 评论
640 浏览 0 评论
【团购】独家全套珍藏！龙哥LabVIEW视觉深度学习实战课（11大系列课程，共5000+分钟）
1939 浏览 0 评论
1444 浏览 1 评论
/9 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
11017
评论
淘帖
426
