STM32
直播中

梅利号

9年用户 1563经验值
擅长:可编程逻辑
私信 关注
[问答]

求助,关于STM32H743使用DSP进行矩阵求逆计算出现的问题求解

我正在STM32H743上实现一个算法,需要进行一个20*20的矩阵求逆,但是计算结果与matlab对比差距非常大,完全不正确,原矩阵A的部分数值类似如下:

在matlab中求逆的部分结果如下:

但是在STM32H743中的求逆计算结果却是这样的:
我猜想是因为精度的问题,但是不知道该如何解决

更多回帖

发帖
×
20
完善资料,
赚取积分