[资料]

vpa函数在matlab中计算结果精确位数的使用

2012-2-3 15:45:47 12782 matlab

0 一般使用vpa函数来实现数值精确到小数点后某一位 vpa会根据精度要求去掉末尾的数位或者补0 例如 >> a=1.23456789 a = 1.2346 >> b=vpa(a,7) b = 1.234568 >> vpa(a,12) ans = 1.23456789000 需要注意的是vpa的结果是符号数值，可以用于初等运算，不可用于关系运算例如 >> 1+b ans = 2.234568 >> 1>b ??? Undefined function or method 'gt' for input arguments of type 'sym'. 此外，也可用 round(a*10^N)/(10^N) 来实现精确到某一位小数根据不同的取舍需要可用fix,floor,ceil来替换round 0
举报淘帖0 只看该作者相关推荐 • CRYPTO中的CRC16计算结果有问题怎么解决 1343 • labview通过mit调用simulink编译的dll模型，计算结果不正确 2551 • MATLAB中计算方式生成随机序列 3803 • 请问dsp计算结果怎么保存？ 1660 • DSP_fft16x16函数计算结果溢出，请问是什么原因？ 3993 • 请问Dsplib中的函数运算结果和Matlab运算结果不一致是什么原因？ 2284 • 我想对采集来的数据进行积分求取想让的计算结果，但是不知几个积分函数如何用 5299 • labview均值计算结果怎么不对 2869 • 简易计算器，运行时在计算结果在70000 到99999之间时结果错误 3046 • 短路电流的计算及影响计算结果的因素 7407