[问答]

【计算错误】0.3取余0.1等0.1吗？？？

6809

问答对人有帮助，内容完整，我也想知道答案 0 换了3个版本labview，两台电脑，都是这数，不等与零吗???? 0 奖励20积分
2021-7-23 16:59:53　　评论淘帖0 邀请回答您可以邀请以下用户，快速回答问题 × jihuahua 该类别下有 142 个回答，其中被选为最佳答案 4 次。邀请回答羊驼啊该类别下有 78 个回答，其中被选为最佳答案 2 次。邀请回答唐少华该类别下有 61 个回答。邀请回答酸牛奶甜该类别下有 57 个回答。邀请回答 btlook 该类别下有 48 个回答。邀请回答 qiujingshui 该类别下有 47 个回答。邀请回答世人皆不同该类别下有 42 个回答。邀请回答 hjc6063209 该类别下有 42 个回答。邀请回答 cc栗子该类别下有 42 个回答。邀请回答 907510265 该类别下有 41 个回答。邀请回答 woshisu 该类别下有 39 个回答。邀请回答留白该类别下有 34 个回答。邀请回答周建远该类别下有 34 个回答，其中被选为最佳答案 87 次。邀请回答哇哈哈哈6 该类别下有 34 个回答。邀请回答志尊宝该类别下有 33 个回答。邀请回答 ww 该类别下有 31 个回答，其中被选为最佳答案 2 次。邀请回答 wenT 该类别下有 30 个回答。邀请回答 yingtn 该类别下有 30 个回答。邀请回答舞出精彩该类别下有 29 个回答。邀请回答阳光1下该类别下有 29 个回答。邀请回答举报 a156789156782 相关推荐 • PGA300EVM在标定ADC参数时，软件提示ADC系数计算错误，问题出在哪里？ 278 • 使用COSMIC C编译器进行STM8A校验和计算错误 1549 • 是不是没有输出wrong answer就代表whetstone计算结果无误呢？ 444 • 请教一个关于模拟电路分析中替代等效电阻计算的问题 4985 • 使用C6746 DSP处理器，出现了C语言子函数参数传递错误 2589 • 如何提取脉冲序列的各个脉冲 4319 • dsp 编程是能用 %表示取余函数吗？该怎么对除法取余呢？ 11191 • 如何提取数组的部分元素 16189 • uart数据收发不成功 2257 • 热电偶精度怎么达到0.1 3981 7个回答

答案对人有帮助，有参考价值 0 浮点数表示就会这样的就比如你2.01循环减0.01最后可能都得不到0 你这里的0.3在计算机里面你可以理解为0.3000000...00001这样子所以你弄下来结果是0.1 其实这个0.1相当于0.09999999999999999...99999或者0.1000000000000000...1这样子最佳答案

2021-7-23 16:59:54 评论举报何志刚