2011年10月26日
摘要: 我们都知道在C++数与数的比较我们都知道用==,!==等等方法,但在浮点数比较中刚可有行用这种,首先,浮点数在计算机当中是以二进制的方式表达的,所以无法表达其精度,其次计算机浮点数的精度float类型下,只有七位,在进行浮点运算的时候,这个精度往往会导致运算的结果和实际期望的结果之间有误差。。。这样我们会自然而然想到fabs(a-b)>epsilon这个方法,但它也不稳妥,首先,epslion是一个绝对的数据,也就是误差分析当中说说的绝对误差,、既然绝对误差不可以,那么自然的我们就会想到了相对误差bool IsEqual(float a, float b, float relError 阅读全文
posted @ 2011-10-26 21:22 咆哮的蛋蛋 阅读(220) 评论(0) 推荐(0) 编辑