摘要: 在数学运算当中经常会涉及到判断两个数是否相等的情况对于整数很好处理 A==B这样的一个语句就可以解决全部的问题但是对于浮点数是不同的首先,浮点数在计算机当中的二进制表达方式就决定了大多数浮点数都是无法精确的表达的现在的计算机大部分都是数字计算机,不是模拟机,数字机的离散化的数据表示方法自然无法精确表达大部分的数据量的。其次计算机浮点数的精度在单精度float类型下,只有7位,在进行浮点运算的时候,这个精度往往会导致运算的结果和实际期望的结果之间有误差因为前两个原因,我们很难用 A==B来判定两个浮点数是否相同很自然,我们可以想到 fabs(A-B) < epsilon 这样的一种判别方法 阅读全文
posted @ 2011-01-25 17:59 云说风轻 阅读(439) 评论(0) 推荐(0) 编辑