关于浮点数

浮点有个圆整错误,例如:0.4-0.3==0.1

这是不等的。C#中也是如此(采用IEEE754浮点的都是如此)。因为很多浮点数是用一种近似值来表示的。例如0.1,它只是无限接近0.1。因为0.1不能用二进制精确表示。但0.5可以。

 0.3-0.2==0.1 #false 
 0.8-0.3==0.5 #true 
 0.8-0.7==0.1 #false 

posted @ 2012-11-14 00:05  风林火山09  阅读(160)  评论(0编辑  收藏  举报