java陷阱之浮点数运算丢失精度问题

先看以下测试用例

复制代码
    public static void main(String[] args) throws ScriptException, InterruptedException, ParseException, IOException {
        System.out.println( 10.2 * 100);//期望1020 实际:1019.9999999999999
        System.out.println( 10.2 * 100D);//期望1020 实际:1019.9999999999999
        System.out.println(new BigDecimal(10.2).multiply(new BigDecimal(100)));//期望1020 实际:1019.999999999999928945726423989981412887573242187500
        System.out.println(new BigDecimal(10.2D).multiply(new BigDecimal(100D)));//期望1020 实际:1019.999999999999928945726423989981412887573242187500
        System.out.println(new BigDecimal(Double.toString(10.2)).multiply(new BigDecimal(Double.toString(100))));//期望1020 实际:1020.00
        System.out.println(0.1+0.2);//期望0.3 实际:0.30000000000000004
        System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));//期望0.3 实际:0.3000000000000000166533453693773481063544750213623046875
        System.out.println(new BigDecimal(Double.toString(0.1)).multiply(new BigDecimal(Double.toString(0.3))));//期望0.03 实际:0.03
    }
复制代码

针对小数直接运算原因

java算数运算,都是需要将数字转为二进制再进行运算,但是二进制并不能精确表达所有小数,通过转为二进制后再运算有可能会丢失精度 所以使用BigDecimal 进行数学运算

 

针对BigDecimal double构造函数运算丢失精度问题原因

java 手册api函数说明

public BigDecimal(double val)
  1. 此构造方法的结果有一定的不可预知性。有人可能认为在 Java 中写入 new BigDecimal(0.1) 所创建的 BigDecimal 正好等于 0.1(非标度值 1,其标度为 1),但是它实际上等于 0.1000000000000000055511151231257827021181583404541015625。这是因为 0.1 无法准确地表示为 double (或者说对于该情况,不能表示为任何有限长度的二进制小数)。这样, 传入 到构造方法的值不会正好等于 0.1(虽然表面上等于该值)。
  2. 另一方面, String 构造方法是完全可预知的:写入 new BigDecimal("0.1") 将创建一个 BigDecimal ,它 正好 等于预期的 0.1。因此,比较而言,通常建议优先使用 String 构造方法 
  3. 当 double 必须用作 BigDecimal 的源时,请注意,此构造方法提供了一个准确转换;它不提供与以下操作相同的结果:先使用 Double.toString(double) 方法,然后使用 BigDecimal(String) 构造方法,将 double 转换为 String 。要获取该结果,请使用 static valueOf(double) 方法。 

所以我们进行小数运算 BigDecaimal(String) 要用字符串类型的构造函数 

posted @   意犹未尽  阅读(234)  评论(0编辑  收藏  举报
编辑推荐:
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
点击右上角即可分享
微信分享提示