完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
`数据格式都已经改了“扩展精度”,显示位数也都写的足够大,为什么还是只能显示出来小数点后16位呢?https://bbs.elecfans.com/forum.php?mod=attachment&aid=MzAzMDMyfDQzNzc0MDcyZDI3YjFlOTAxMWIyZDNhOGFlYmZjMmM5fDE3MzUyNzMxMzg%3D&request=yes&_f=.rar https://bbs.elecfans.com/forum.php?mod=attachment&aid=MzAzMDM1fDViYzJlYmMzMjdhMmJiY2M1YzE4MmM1MmRkODFjMGRifDE3MzUyNzMxMzg%3D&request=yes&_f=.rar `
自然对数-2014.rar
(9.15 KB, 下载次数: 0
)
自然对数-2012.rar
(5.15 KB, 下载次数: 0
)
自然对数-2012.rar
(5.15 KB, 下载次数:
)
|
|
相关推荐
|
|
本帖最后由 tank1486769 于 2016-9-20 16:04 编辑
我也测试了一下,大概总结了一下原因,labview是32位的版本,双精度最长运算量为19位(十进制数的长度),你把小数点以及前后所有数值加上,应该刚好是19位。所以,在运算的时候labview只能运算这个长度以内的计算量。例如前19位计算出结果,进行加法运算加一个第30位的数值,结果就是忽略第30位的数值。(1.11111111111111111+0.0000000000000000000000000001=1.11111111111111111)但如果你的加法计算为第20位加第30位数值,就可以进行计算. (0.0000000000000000000000000001+0.00000000000000000001=0.000000000000000000010000000001)这是我实验的结果。 因此,我认为当计算程序到达一定长度以后,要拆分这个数值,将基本运算锁定在19位长度以内进行。 比如圆周率计算到第18位,这时候拆分前面的17位,只进行最后一位的求合运算。然后将这个结果再添加到总的结果里面,我觉得可以使用字符串来显示。 |
|
|
|
|
|
tank1486769 发表于 2016-9-20 15:52 谢谢。我尝试下看如何解决。 |
|
|
|
|
|
807 浏览 2 评论
NI Vision有个图片打不开其他图都能打开(用NI Vision Assistant也打开不了)
1209 浏览 1 评论
labview2015使用Excel报表程序打包生成后打开程序要选一个vi才能使用,否则软件就会报错,这是什么问题?
1776 浏览 2 评论
LabVIEW与单片机无法串口通信 提示串口打开错误 端口设置有问题吗?
1688 浏览 3 评论
1994 浏览 2 评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-12-27 12:18 , Processed in 0.601940 second(s), Total 76, Slave 57 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号