完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
6705
|
这个不是bug，这是浮点数的不能精确表达特性引起的，所有编程语言都会有这个问题。浮点数判断相等，通用的方法，两个数相减的差小于某个值，就认为相等了。
|
|
|
1 条评论
|
|
|
你的那个二十只是你这里看起来是20，应该是你设置的小树位数，其实数字可能是20.00000点几，所以程序计算后是有这个0.0000点几的余数
|
|
|
1 条评论
|
|
|
写了个Demo给你演示一下这“神奇”的事情。 效果图1： 
效果图2：
一般判0方式：
精确判0方式：
|
|
|
|
|
|
先把浮点数转换为整数就没这个尴尬的bug了
|
|
|
2 条评论
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
用udl里的字符串信息在局域网内其他电脑连接sql数据库为什么为出现连接失败拒绝访问？
1778 浏览 2 评论
为什么同一个队列引用的全局变量，运行在两个子vi中发现队列数据丢失了
1389 浏览 0 评论
1593 浏览 0 评论
关于labview2024版本的lvanlys.dll出错的问题
3381 浏览 3 评论
1511 浏览 2 评论
/6 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
评论
淘帖
307
赞
