完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
扫一扫,分享给好友
由于计算机中采用的是有限位的二进制编码,所以浮点数在计算机中的存储不总是精确的。例如,在经过大量计算后,一个浮点型的数3.14在计算机中可能就存储成3.140000000001,也有可能存储成3.1399999999999;
所以就会出现你看到的情况1-1≠0 编程时尽量避免浮点数的等于运算
最佳答案
|
|
|
|
因为计算机是二进制的,不是十进制,0.1用二进制表示了,没有和0.1完全相等的二进制数,10个0.1相加只能约等于1,不能等于1。
|
|
|
|
这就是计算机表示数值的问题。
|
|
|
|
浮点数是近视值,比较最好用大于或小于
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问,请使用“评论”功能。
232 浏览 0 评论
1639 浏览 1 评论
用udl里的字符串信息在局域网内其他电脑连接sql数据库为什么为出现连接失败拒绝访问?
2250 浏览 2 评论
为什么同一个队列引用的全局变量,运行在两个子vi中发现队列数据丢失了
1824 浏览 0 评论
2008 浏览 0 评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-12-2 19:16 , Processed in 0.609482 second(s), Total 83, Slave 64 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号