[QUICK FIX] 在 MATLAB 中谨慎使用整数类型!!

假设在 MATLAB 中,有一个类型为 intX 的变量 a ,其中 X = 8, 16, 32, 64;与此同时,有一个类型为 double 的变量 b

按照其他编程语言的经验,a * b 的结果应该是浮点类型,但是在 MATLAB 中,结果的类型将是 intX(规则是四舍五入)!

如果这两个变量的值都很大时,这样的运算并不会丢失多少精度,但是当它们很小时会导致严重的精度损失

今天下午调 SVPWM 的代码,有个模块的输出是占空比,范围 0 到 1,由于这个小细节,我的结果变成了 0 或 1,给仿真结果以及我的心情带来了致命的影响……

posted @ 2024-05-26 17:30  ZXPrism  阅读(9)  评论(0)    收藏  举报