关于初学者.NET编程中遇到的问题(一)
这是我在微软中文技术论坛上回答的一些问题,有些很有代表性,现在拿出来分享给大家:
大家看看这段代码:
double temp1,temp2,temp3,temp4 ;
temp1 = 7.1;
temp2 = 0.4;
temp3 = 5.7;
temp4 = 1;
Response.Write( temp1.Equals(temp2 + temp3 + temp4));
输出结果是false,实际上temp2+temp3+temp4的值是7.1000000000000005
问题出在temp2+temp3上,也就是0.4+5.7的时候,我测试结果是6.1000000000000005
这是浮点数内部表示的精度问题,一般这样比较
Response.Write(temp1.ToString().Equals((temp2 + temp3 + temp4).ToString()));
或者采取转换成整数等方法进行运算、比较
比较精度应小心使用 Equals 方法,因为两个显然相等的值可能因两个值的精度不同而不相等