完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
1286
|
由于计算机中采用的是有限位的二进制编码，所以浮点数在计算机中的存储不总是精确的。例如，在经过大量计算后，一个浮点型的数3.14在计算机中可能就存储成3.140000000001，也有可能存储成3.1399999999999；
所以就会出现你看到的情况1-1≠0 编程时尽量避免浮点数的等于运算
最佳答案
|
|
|
2021-1-28 20:18:52
评论
|
|
|
因为计算机是二进制的，不是十进制，0.1用二进制表示了，没有和0.1完全相等的二进制数，10个0.1相加只能约等于1，不能等于1。
|
|
|
|
|
|
这就是计算机表示数值的问题。
|
|
|
|
|
|
浮点数是近视值，比较最好用大于或小于
|
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
249 浏览 0 评论
1133 浏览 1 评论
655 浏览 0 评论
新手求助，从示波器导出来csv类型的波形数据，怎么用labview读取csv文件还原波形，求助各位大佬，感谢感谢！！！
1149 浏览 2 评论
Labview 信号处理 瞬态测量 连线出现错误提示，请教各位前辈！麻烦请各位帮忙看一下？
6674 浏览 2 评论
/7 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
淘帖
3143
