返回顶部

【转】matlab控制运算精度、四舍五入保留小数点后特定位数的实现

2020-09-27  15:43:24

1.digits

2.vpa(常用)

3.roundn

具体说明:

1.matlab中使用digits:

digits(5);
a=vpa(sqrt(2));
这样a的值就是1.4142,而不是准确的1.4142135623730950488016887242097


又如:
digits(5);
a=vpa(sqrt(2));
b=sqrt(2);

这样a的值是1.4142,b没有用vpa函数,所以b是1.4142135623730950488016887242097......


2.vpa全称是Variable-precision arithmetic,也就是算术精度,vpa函数对其中每一个运算都控制精度,并非只控制结果。
digits(11);
a=vpa(2/3+4/7+5/9);
b=2/3+4/7+5/9;
a的结果为1.7936507936,b的结果为1.793650793650794......也就是说,计算a的值的时候,先对2/3,4 /7,5/9这三个运算都控制了精度,又对三个数相加的运算控制了精度。而b的值是真实值,对它取11位有效数字的话,结果为1.7936507937,与a不同,就是说vpa并不是先把表达式的值用matlab本身的精度求出来,再取有效数字,而是每运算一次,都控制精度。我举的例子不太好,因为加法不太会增加数字位数。希望你能理解我的意思....

 

3.roundn(x,y):x表示要四舍五入的数,y表示精确地位数,y<0时保留小数点后,y>0时保留小数点前

A = roundn(123.45,1);  % 输出A = 120

A = roundn(123.45,2);  % 输出A = 100

A = roundn(123.45,-1);  % 输出A = 123.5000

A = roundn(123.45,-2);  % 输出A = 123.4500

 

参考:

https://zhidao.baidu.com/question/237050395.html

https://blog.csdn.net/qq_36556893/article/details/79596842

https://blog.csdn.net/witnessai1/article/details/52432473?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight

https://blog.csdn.net/Davidietop/article/details/105364792

posted @ 2020-09-27 15:59  allaqppq  阅读(2500)  评论(0编辑  收藏  举报