随笔 - 139  文章 - 0  评论 - 421  阅读 - 17万

关于初学者.NET编程中遇到的问题(一)

这是我在微软中文技术论坛上回答的一些问题,有些很有代表性,现在拿出来分享给大家:

大家看看这段代码:

            double temp1,temp2,temp3,temp4 ;
            temp1 = 7.1;
            temp2 = 0.4;
            temp3 = 5.7;
            temp4 = 1;


            Response.Write( temp1.Equals(temp2 + temp3 + temp4));

输出结果是false,实际上temp2+temp3+temp4的值是7.1000000000000005

问题出在temp2+temp3上,也就是0.4+5.7的时候,我测试结果是6.1000000000000005

这是浮点数内部表示的精度问题,一般这样比较

 

Response.Write(temp1.ToString().Equals((temp2 + temp3 + temp4).ToString()));

 

或者采取转换成整数等方法进行运算、比较

 

比较精度应小心使用 Equals 方法,因为两个显然相等的值可能因两个值的精度不同而不相等

 

posted on   周雪峰  阅读(396)  评论(3编辑  收藏  举报
编辑推荐:
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
阅读排行:
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· [AI/GPT/综述] AI Agent的设计模式综述
< 2008年10月 >
28 29 30 1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31 1
2 3 4 5 6 7 8

点击右上角即可分享
微信分享提示