浮点运算误差

今天一哥们遇到个很诡异的事情,3个 0.15的 dobule数相加竟然不等于0.45. 学习了之后才知道这是由于浮点运算的误差所致。看来基础课没学好啊。

还有些小例子:

[Java Code]下面这个简单的计算将得到 2.600000000000001 ,而不是 2.6 : 

 double s=0;
  
for (int i=0; i<26; i++)
    s 
+= 0.1;
  System.out.println(s);

 

 

这篇文章说的非常详细:http://www.ibm.com/developerworks/cn/java/j-jtp0114/index.html

posted @   stefanie  阅读(356)  评论(0编辑  收藏  举报
编辑推荐:
· 为什么说在企业级应用开发中,后端往往是效率杀手?
· 用 C# 插值字符串处理器写一个 sscanf
· Java 中堆内存和栈内存上的数据分布和特点
· 开发中对象命名的一点思考
· .NET Core内存结构体系(Windows环境)底层原理浅谈
阅读排行:
· 为什么说在企业级应用开发中,后端往往是效率杀手?
· 本地部署DeepSeek后,没有好看的交互界面怎么行!
· DeepSeek 解答了困扰我五年的技术问题。时代确实变了!
· 趁着过年的时候手搓了一个低代码框架
· 推荐一个DeepSeek 大模型的免费 API 项目!兼容OpenAI接口!
点击右上角即可分享
微信分享提示