发帖

【优惠升级】华秋PCB首单最高立减100元，再返2000元优惠券！！！

[资料]

为什么我设计的计算圆周率和自然常数的程序只能计算

2015-12-3 16:29:03 5021

0 `数据格式都已经改了“扩展精度”，显示位数也都写的足够大，为什么还是只能显示出来小数点后16位呢？https://bbs.elecfans.com/forum.php?mod=attachment&aid=MzAzMDMyfGEyMmZlOGNmMDc1MTUxMjdiYzA4YjVkNjNkZjUzOGQzfDE3MzA3NTU4Oti%3D&request=yes&_f=.rar https://bbs.elecfans.com/forum.php?mod=attachment&aid=MzAzMDM1fDZlYzMxN2ExMGM1MzI0Y2QwYjM1NGVlN2FjNGU5Y2JjfDE3MzA3NTU4OTI%3D&request=yes&_f=.rar ` 自然对数-2014.rar (9.15 KB, 下载次数: 0 ) 自然对数-2012.rar (5.15 KB, 下载次数: 0 ) 自然对数-2012.rar (5.15 KB, 下载次数: ) 0
举报淘帖0 只看该作者最近下载过的用户(7) 相关推荐 • 【米尔MYD-JX8MPQ开发板试用体验】测评之六：CPU 压力测试----使用bc命令计算圆周率 18062 • 通过LUA脚本实现圆周率计算 3323 • 构建一个sopc硬件系统 663 • verilog语言表示圆周率 3863 • 用labview 计算出圆周率 PI，并列出小数点后50位，要如何做，我实在太菜，求大神指教 3159 • RC时间常数计算 2690 • FPGA算圆周率结果 3167 • 【TG401开发板试用体验】FPU计算测试-----与FSL K64对比 2679 • FFT与DFT计算时间的比较及圆周卷积代替线性卷积的有效性实 4566 • MATLAB特殊变量和常数命令 3017 4条评论发表评论只看该作者

tennyee · 2015-12-3 16:29:56 沙发好像附件有问题！2楼重新上传附件！

赞回复举报

tennyee · 2015-12-9 14:11:08 板凳没人回复嘛？先谢谢大家了！

赞回复举报

啥地方 · 2016-9-20 15:52:56 4^# 本帖最后由 tank1486769 于 2016-9-20 16:04 编辑我也测试了一下，大概总结了一下原因，labview是32位的版本，双精度最长运算量为19位（十进制数的长度），你把小数点以及前后所有数值加上，应该刚好是19位。所以，在运算的时候labview只能运算这个长度以内的计算量。例如前19位计算出结果，进行加法运算加一个第30位的数值，结果就是忽略第30位的数值。（1.11111111111111111+0.0000000000000000000000000001=1.11111111111111111)但如果你的加法计算为第20位加第30位数值，就可以进行计算. (0.0000000000000000000000000001+0.00000000000000000001=0.000000000000000000010000000001）这是我实验的结果。因此，我认为当计算程序到达一定长度以后，要拆分这个数值，将基本运算锁定在19位长度以内进行。比如圆周率计算到第18位，这时候拆分前面的17位，只进行最后一位的求合运算。然后将这个结果再添加到总的结果里面，我觉得可以使用字符串来显示。

赞回复举报

tennyee · 2017-8-10 13:45:54 5^# tank1486769 发表于 2016-9-20 15:52 我也测试了一下，大概总结了一下原因，labview是32位的版本，双精度最长运算量为19位（十进制数的长度），你把小数点以及前后所有数值加上，应该刚好是19位。所以，在运算的时候labview只能运算这个长度以内的计算量。例如前19位计算出结果，进行加法运算加一个第30位的数值，结果就是忽略第30位的数值。（1.11111111111111 ... 谢谢。我尝试下看如何解决。

赞回复举报

评论

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容图片侵权或者其他问题，请联系本站作侵删。侵权投诉

发资料

精选推荐

LabView怎么保存已经读取的数据方便下次接着用

838 浏览 2 评论
FPGA SPWM 音圈电机问题

1286 浏览 1 评论
研华采集卡采集声音数据文件保存？

879 浏览 0 评论
新手求助，从示波器导出来csv类型的波形数据，怎么用labview读取csv文件还原波形，求助各位大佬，感谢感谢！！！

1376 浏览 2 评论
Labview 信号处理瞬态测量连线出现错误提示，请教各位前辈！麻烦请各位帮忙看一下？

6794 浏览 2 评论

快速回复 返回顶部 返回列表

关注微信公众号

电子发烧友网

电子发烧友论坛

社区合作: 刘勇; 联系电话：15994832713; 邮箱地址：liuyong@huaqiu.com

社区管理: elecfans短短; 微信：elecfans_666; 邮箱：users@huaqiu.com

【优惠升级】华秋PCB首单最高立减100元，再返2000元优惠券！！！

返回 LabVIEW论坛

回复

关闭

站长推荐 /7

快速回复 返回顶部 返回列表

- 技术社区: HarmonyOS技术社区

RISC-V MCU技术社区

FPGA开发者技术社区

- OpenHarmony开源社区: OpenHarmony开源社区

- 嵌入式论坛: ARM技术论坛

STM32/STM8技术论坛

嵌入式技术论坛

单片机/MCU论坛

RISC-V技术论坛

瑞芯微Rockchip开发者社区

FPGA|CPLD|ASIC论坛

DSP论坛

- 电路图及DIY: 电路设计论坛

DIY及创意

电子元器件论坛

专家问答

- 电源技术论坛: 电源技术论坛

无线充电技术

- 综合技术与应用: 机器人论坛

USB论坛

电机控制

模拟技术

音视频技术

综合技术交流

上位机软件（C/Python/Java等）

- 无线通信论坛: WIFI技术

蓝牙技术

天线|RF射频|微波|雷达技术

- EDA设计论坛: PCB设计论坛

DigiPCBA论坛

Protel|AD|DXP论坛

PADS技术论坛

Allegro论坛

multisim论坛

proteus论坛|仿真论坛

KiCad EDA 中文论坛

DFM|可制造性设计论坛

- 测试测量论坛: LabVIEW论坛

Matlab论坛

测试测量技术

传感技术

- 招聘/交友/外包/交易/杂谈: 项目外包

供需及二手交易

工程师杂谈|交友

招聘|求职|工程师职场

- 官方社区: 发烧友官方/活动

华秋商城

华秋电路

time

recommend

hot

post

—
—
—

版
块
导
航