2018年3月5日
浮点计算结果误差，以及解决方法
摘要： 问题： 手动计算 a * b * c 应该等于252， 但实际输出结果是251.99998。这是因为计算机用二进制01无法精确表示某一些带小数位的十进制数据。 这时BigDecimal就派上用场了，该类可以较灵活的控制小数点后的数值 阅读全文
posted @ 2018-03-05 11:00 glorythesky 阅读(1171) 评论(0) 推荐(0) 编辑