关于初学者.NET编程中遇到的问题(一)
这是我在微软中文技术论坛上回答的一些问题,有些很有代表性,现在拿出来分享给大家:
大家看看这段代码:
double temp1,temp2,temp3,temp4 ;
temp1 = 7.1;
temp2 = 0.4;
temp3 = 5.7;
temp4 = 1;
Response.Write( temp1.Equals(temp2 + temp3 + temp4));
输出结果是false,实际上temp2+temp3+temp4的值是7.1000000000000005
问题出在temp2+temp3上,也就是0.4+5.7的时候,我测试结果是6.1000000000000005
这是浮点数内部表示的精度问题,一般这样比较
Response.Write(temp1.ToString().Equals((temp2 + temp3 + temp4).ToString()));
或者采取转换成整数等方法进行运算、比较
比较精度应小心使用 Equals 方法,因为两个显然相等的值可能因两个值的精度不同而不相等
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· [AI/GPT/综述] AI Agent的设计模式综述