[QUICK FIX] 在 MATLAB 中谨慎使用整数类型!!

假设在 MATLAB 中,有一个类型为 intX 的变量 a ,其中 X = 8, 16, 32, 64;与此同时,有一个类型为 double 的变量 b

按照其他编程语言的经验,a * b 的结果应该是浮点类型,但是在 MATLAB 中,结果的类型将是 intX(规则是四舍五入)!

如果这两个变量的值都很大时,这样的运算并不会丢失多少精度,但是当它们很小时会导致严重的精度损失

今天下午调 SVPWM 的代码,有个模块的输出是占空比,范围 0 到 1,由于这个小细节,我的结果变成了 0 或 1,给仿真结果以及我的心情带来了致命的影响……

posted @   ZXPrism  阅读(5)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· winform 绘制太阳,地球,月球 运作规律
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· AI与.NET技术实操系列(五):向量存储与相似性搜索在 .NET 中的实现
· 超详细:普通电脑也行Windows部署deepseek R1训练数据并当服务器共享给他人
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
点击右上角即可分享
微信分享提示