完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
7048
|
这个不是bug，这是浮点数的不能精确表达特性引起的，所有编程语言都会有这个问题。浮点数判断相等，通用的方法，两个数相减的差小于某个值，就认为相等了。
|
|
|
1 条评论
|
|
|
你的那个二十只是你这里看起来是20，应该是你设置的小树位数，其实数字可能是20.00000点几，所以程序计算后是有这个0.0000点几的余数
|
|
|
1 条评论
|
|
|
写了个Demo给你演示一下这“神奇”的事情。 效果图1： 
效果图2：
一般判0方式：
精确判0方式：
|
|
|
|
|
|
先把浮点数转换为整数就没这个尴尬的bug了
|
|
|
2 条评论
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
211 浏览 0 评论
请教大神，在labview里面对实时扫描资源中的C系列模块NI9234进行配置发生非预期错误
1709 浏览 0 评论
1585 浏览 0 评论
LABVIEW 2023 Q1调用python后一直报错1671
1960 浏览 2 评论
5207 浏览 3 评论
/9 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
评论
淘帖
539
赞
