0.4-0.3==0.1

所有采用IEEE-754浮点数的语言都存在这个问题:

      Float对象的精度很高,可以很好的近似表示0.1,但是无法做到完全精确,这会带来一些问题。请考虑下面表达式:

0.4 - 0.3 == 0.1

      由于圆整错误,0.4和0.3的近似值之间的差值与0.1的近似值并不相同。

      对于此问题的一个解决方案就是采用十进制表示实数,而不是二进制。 

posted on 2010-05-31 23:06  小呆也行  阅读(300)  评论(0编辑  收藏  举报

导航