完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
50903
|
本帖最后由 萧猎 于 2022-9-26 09:46 编辑
各位大神好！我在编程调试中遇到一个问题，现象有点毁三观。经计算得出来的两个小数比大小，理论上应该是相等的（纸上笔算确实如此），但在labview中却不相等。请各位帮忙解释并解决！ 
0
|
|
相关推荐
3个回答
|
|
|
|
|
|
|
|
可以试着改一下数值的显示格式，将精度拉大一点
|
|
|
|
|
|
因为小数值的计算过程是用了除法的，两个数值计算先后时间不一样，也不知道哪里产生了误差。
|
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
211 浏览 0 评论
请教大神，在labview里面对实时扫描资源中的C系列模块NI9234进行配置发生非预期错误
1709 浏览 0 评论
1585 浏览 0 评论
LABVIEW 2023 Q1调用python后一直报错1671
1960 浏览 2 评论
5207 浏览 3 评论
/9 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
评论
淘帖
4670
