完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
|
labview中数值的小数位精度问题：
我现在有一个19.97十进制数值，在进行for循环，每循环一次减去一个不同的值，最后19.97变成0.01.再循环的时候跟0.01进行比较，我运行的结果却是相减后的0.01与我指定的0.01不相等，我把所有数值的精度都改为了2位精度位数，还是不行，请大神赐教啊 
0
|
|
相关推荐
3个回答
|
|
|
关注下，和我之前遇到的问题很像
|
|
|
|
|
|
请问，19.97应该叫十进制数值？这是浮点数，浮点数的相等比较是无意义的，为什么无意义？自己百度
|
|
|
|
|
|
目前问题算是解决了，我是19.97乘个100，这样就变成整数了
|
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
用udl里的字符串信息在局域网内其他电脑连接sql数据库为什么为出现连接失败拒绝访问？
1778 浏览 2 评论
为什么同一个队列引用的全局变量，运行在两个子vi中发现队列数据丢失了
1389 浏览 0 评论
1593 浏览 0 评论
关于labview2024版本的lvanlys.dll出错的问题
3381 浏览 3 评论
1511 浏览 2 评论
/6 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
10417
评论
淘帖
211
