完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
1310
|
由于计算机中采用的是有限位的二进制编码，所以浮点数在计算机中的存储不总是精确的。例如，在经过大量计算后，一个浮点型的数3.14在计算机中可能就存储成3.140000000001，也有可能存储成3.1399999999999；
所以就会出现你看到的情况1-1≠0 编程时尽量避免浮点数的等于运算
最佳答案
|
|
|
2021-1-28 20:18:52
评论
|
|
|
因为计算机是二进制的，不是十进制，0.1用二进制表示了，没有和0.1完全相等的二进制数，10个0.1相加只能约等于1，不能等于1。
|
|
|
|
|
|
这就是计算机表示数值的问题。
|
|
|
|
|
|
浮点数是近视值，比较最好用大于或小于
|
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
490 浏览 1 评论
NI Vision有个图片打不开其他图都能打开（用NI Vision Assistant也打开不了）
954 浏览 1 评论
labview2015使用Excel报表程序打包生成后打开程序要选一个vi才能使用，否则软件就会报错，这是什么问题？
1534 浏览 2 评论
LabVIEW与单片机无法串口通信 提示串口打开错误 端口设置有问题吗？
1466 浏览 3 评论
1744 浏览 2 评论
/6 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
淘帖
3195
