关于初学者.NET编程中遇到的问题(一)

这是我在微软中文技术论坛上回答的一些问题,有些很有代表性,现在拿出来分享给大家:

大家看看这段代码:

            double temp1,temp2,temp3,temp4 ;
            temp1 = 7.1;
            temp2 = 0.4;
            temp3 = 5.7;
            temp4 = 1;


            Response.Write( temp1.Equals(temp2 + temp3 + temp4));

输出结果是false,实际上temp2+temp3+temp4的值是7.1000000000000005

问题出在temp2+temp3上,也就是0.4+5.7的时候,我测试结果是6.1000000000000005

这是浮点数内部表示的精度问题,一般这样比较

 

Response.Write(temp1.ToString().Equals((temp2 + temp3 + temp4).ToString()));

 

或者采取转换成整数等方法进行运算、比较

 

比较精度应小心使用 Equals 方法,因为两个显然相等的值可能因两个值的精度不同而不相等

 

posted on 2008-10-31 23:35  周雪峰  阅读(395)  评论(3编辑  收藏  举报