【转】matlab控制运算精度、四舍五入保留小数点后特定位数的实现
2020-09-27 15:43:24
1.digits
2.vpa(常用)
3.roundn
具体说明:
1.matlab中使用digits:
digits(5);
a=vpa(sqrt(2));
这样a的值就是1.4142,而不是准确的1.4142135623730950488016887242097
又如:
digits(5);
a=vpa(sqrt(2));
b=sqrt(2);
这样a的值是1.4142,b没有用vpa函数,所以b是1.4142135623730950488016887242097......
2.vpa全称是Variable-precision arithmetic,也就是算术精度,vpa函数对其中每一个运算都控制精度,并非只控制结果。
digits(11);
a=vpa(2/3+4/7+5/9);
b=2/3+4/7+5/9;
a的结果为1.7936507936,b的结果为1.793650793650794......也就是说,计算a的值的时候,先对2/3,4 /7,5/9这三个运算都控制了精度,又对三个数相加的运算控制了精度。而b的值是真实值,对它取11位有效数字的话,结果为1.7936507937,与a不同,就是说vpa并不是先把表达式的值用matlab本身的精度求出来,再取有效数字,而是每运算一次,都控制精度。我举的例子不太好,因为加法不太会增加数字位数。希望你能理解我的意思....
3.roundn(x,y):x表示要四舍五入的数,y表示精确地位数,y<0时保留小数点后,y>0时保留小数点前
A = roundn(123.45,1); % 输出A = 120
A = roundn(123.45,2); % 输出A = 100
A = roundn(123.45,-1); % 输出A = 123.5000
A = roundn(123.45,-2); % 输出A = 123.4500
参考:
https://zhidao.baidu.com/question/237050395.html