2011年1月25日
浮点运算误差
摘要： 今天一哥们遇到个很诡异的事情，3个 0.15的 dobule数相加竟然不等于0.45. 学习了之后才知道这是由于浮点运算的误差所致。看来基础课没学好啊。还有些小例子：[Java Code]下面这个简单的计算将得到2.600000000000001，而不是2.6：[代码]这篇文章说的非常详细：http://www.ibm.com/developerworks/cn/java/j-jtp0114/index.html 阅读全文
posted @ 2011-01-25 11:07 stefanie 阅读(356) 评论(0) 推荐(0) 编辑