关于精度问题(实数计算)

关于精度问题

在计算几何的计算中,精度问题是一个很常见的问题。

这是由于计算机存储浮点数时保留的精度有限而产生的。

即使用两个实型变量来存储同一个数字,都有可能产生误差。

因此在判定实型变量大小关系时,若直接采用=,><进行比较,很有可能出错。

一般常见的解决方法是设定一个极小量epsilon(一般写作eps)来辅助比较。

比如判定两个浮点数是否相等时,我们检查两个浮点数之间的差值。若差值小于eps时,我们就认为这两个浮点数相等:

equals(double x, double y):
    eps = 1e-6 // 根据题目要求的精度范围来设定eps
    If (abs(x - y) < eps) Then
        Return True
    End If
    Return false

同样,其它比较符号也需要做对应的修改,具体可以参考下表:

原符号       修正
a == b      abs(a-b) < eps
a != b      abs(a-b) > eps
a > b       a-b > eps
a >= b      a-b > -eps
a < b       a-b < -eps
a <= b      a-b < eps

注:摘自hihocder的一篇题解 http://hihocoder.com/discuss/question/3573
原文地址:https://www.cnblogs.com/yspworld/p/5773637.html