BigDecimal精度等注意事项

1.BigDecimal运算时尽量传入字符串,

反例:

BigDecimal num=new BigDecimal(75);

num.multiply(new BigDecimal(0.5)).setScale(0, RoundingMode.HALF_UP).intValue() = 38,预期38

num.multiply(new BigDecimal(0.3)).setScale(0, RoundingMode.HALF_UP).intValue() = 22,预期23

修改:

num.multiply(new BigDecimal("0.3")).setScale(0, RoundingMode.HALF_UP).intValue() = 23,符合预期

 2.num.multiply()等计算方法并不会改变num值,需要使用计算后值时需要使用返回值。

 

posted @ 2022-09-07 23:21  ACaptain  阅读(50)  评论(0编辑  收藏  举报