0.4-0.3==0.1
所有采用IEEE-754浮点数的语言都存在这个问题:
Float对象的精度很高,可以很好的近似表示0.1,但是无法做到完全精确,这会带来一些问题。请考虑下面表达式:
0.4 - 0.3 == 0.1
由于圆整错误,0.4和0.3的近似值之间的差值与0.1的近似值并不相同。
对于此问题的一个解决方案就是采用十进制表示实数,而不是二进制。
知行统一
所有采用IEEE-754浮点数的语言都存在这个问题:
Float对象的精度很高,可以很好的近似表示0.1,但是无法做到完全精确,这会带来一些问题。请考虑下面表达式:
0.4 - 0.3 == 0.1
由于圆整错误,0.4和0.3的近似值之间的差值与0.1的近似值并不相同。
对于此问题的一个解决方案就是采用十进制表示实数,而不是二进制。