关于实数精度问题
关于精度问题
在计算几何的计算中,精度问题是一个很常见的问题。
这是由于计算机存储浮点数时保留的精度有限而产生的。
即使用两个实型变量来存储同一个数字,都有可能产生误差。
因此在判定实型变量大小关系时,若直接采用=
,>
或<
进行比较,很有可能出错。
一般常见的解决方法是设定一个极小量epsilon
(一般写作eps
)来辅助比较。
比如判定两个浮点数是否相等时,我们检查两个浮点数之间的差值。若差值小于eps
时,我们就认为这两个浮点数相等:
equals(double x, double y):
eps = 1e-6 // 根据题目要求的精度范围来设定eps
If (abs(x - y) < eps) Then
Return True
End If
Return false
同样,其它比较符号也需要做对应的修改,具体可以参考下表:
原符号 修正
a == b abs(a-b) < eps
a != b abs(a-b) > eps
a > b a-b > eps
a >= b a-b > -eps
a < b a-b < -eps
a <= b a-b < eps
越努力,越幸运