完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
扫一扫,分享给好友
|
|
相关推荐
7个回答
|
|
浮点数表示就会这样的 就比如你2.01循环减0.01最后可能都得不到0 你这里的0.3在计算机里面你可以理解为0.3000000...00001这样子 所以你弄下来结果是0.1 其实这个0.1相当于0.09999999999999999...99999或者0.1000000000000000...1这样子
最佳答案
|
|
|
|
应该是数值表示法的原因,好像只有双精度浮点数有这个情况,单精度、扩展精度都没有
评分
|
||
|
||
一般用整数这样干吧
|
|
|
|
取余数都是整数,其它语言的结果还不如labview呢,结果是0.09999999999999998,WIN10自带计算器还不让算小数余数呢
评分
|
||
|
||
|
|
小数除法还取余,取余不是仅仅适用于正整数吗
|
|
|
|
建议不要使用双精度类型。。
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问,请使用“评论”功能。
452 浏览 1 评论
NI Vision有个图片打不开其他图都能打开(用NI Vision Assistant也打开不了)
915 浏览 1 评论
labview2015使用Excel报表程序打包生成后打开程序要选一个vi才能使用,否则软件就会报错,这是什么问题?
1496 浏览 2 评论
LabVIEW与单片机无法串口通信 提示串口打开错误 端口设置有问题吗?
1428 浏览 3 评论
1707 浏览 2 评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-12-22 15:36 , Processed in 0.762799 second(s), Total 94, Slave 70 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号