浮点数精度的修正 相等,大于小于

浮点数可能会丢失最后的几位精度,因此在计算的过程中,常常会有一定的误差

1.相等

判断浮点数相等,通常的办法是需要一个近似,在一定的范围即可,允许有一点偏差

这个范围通常是10的-8次方

即,1e-8

double xiuzheng = 1e-8;

判断的话就写成下面这样

if(b<a+xiuzheng&&b>a-xiuzheng)

 

2.大于或小于

比如要判断数b是否大于a

修正后应当是 b>a+xiuzheng

小于的话就是b<a-xiuzheng

对此的理解为,如果这个数正常情况下是大于a的

那么由于精度问题,会有一点偏离,但这个偏离很小很小,不会影响它比a大的这个事实

小于呢也是一样,这个数小于a,那么再偏离,也不会影响它小于a的这个事实

 

3.大于等于或者小于等于

b>=a 修正后为 b>=a-xiuzheng

b<=a 修正后为b<=a+xiuzheng

也是很好理解

 

最后还有几点说明,有一些数学上的函数,如sqrt开根号

如果b=0  是可能偏移到负数的,还有arcsin b为1时,偏移大于了1

不在定义域内

 

posted @ 2019-03-10 20:34  ecnu_lxz  阅读(472)  评论(0编辑  收藏  举报