分享一个JDK1.8丢失数字精度的案例

差异出现在 DigitList.java的 round() 方法处理上:

1.6:

1.8:

根据设置规则消除无需显示的数字时,JDK1.8 新增了一个二进制数向ASCII码转换的过程如下:

从而导致拿到的取舍后的数字出现了区别:

                       

 

JDK官方文档也曾指出:Float和Double类型的数据在进行计算式,可能会存在精度的丢失,所以推荐如下方式可以规避1.8版本四舍六入的问题:

测试结果:

posted @ 2018-12-18 18:49  坏掉的开关  阅读(366)  评论(0编辑  收藏  举报