摘要: 转载自dapangzisibing的分享一、浮点计算中发生精度丢失 大概很多有编程经验的朋友都对这个问题不陌生了:无论你使用的是什么编程语言,在使用浮点型数据进行精确计算时,你都有可能遇到计算结果出错的情况。来看下面的例子。// 这是一个利用浮点型数据进行精确计算时结果出错的例子,使用Java编写,有所省略。double a = (1.2 - 0.4) / 0.1;System.out.println(a); 如果你认为这个程序的输出结果是“8”的话,那你就错了。实际上,程序的输出结果是“7.999999999999999”。好,问题来了。到底是哪里出了错? 浮点型数据进行精... 阅读全文
posted @ 2012-05-12 10:41 syuctzxk 阅读(3019) 评论(0) 推荐(0) 编辑