完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
扫一扫,分享给好友
|
|
相关推荐
7个回答
|
|
浮点数表示就会这样的 就比如你2.01循环减0.01最后可能都得不到0 你这里的0.3在计算机里面你可以理解为0.3000000...00001这样子 所以你弄下来结果是0.1 其实这个0.1相当于0.09999999999999999...99999或者0.1000000000000000...1这样子
最佳答案
|
|
|
|
应该是数值表示法的原因,好像只有双精度浮点数有这个情况,单精度、扩展精度都没有
评分
|
||
|
||
一般用整数这样干吧
|
|
|
|
取余数都是整数,其它语言的结果还不如labview呢,结果是0.09999999999999998,WIN10自带计算器还不让算小数余数呢
评分
|
||
|
||
|
|
小数除法还取余,取余不是仅仅适用于正整数吗
|
|
|
|
建议不要使用双精度类型。。
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问,请使用“评论”功能。
433 浏览 0 评论
423 浏览 0 评论
350 浏览 0 评论
1168 浏览 1 评论
Labview在生成安装文件的时候,提示“在本计算机上找不到已选定的某些安装程序”
1360 浏览 1 评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-4-24 13:40 , Processed in 0.438795 second(s), Total 54, Slave 46 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号