java陷阱之浮点数运算丢失精度问题
先看以下测试用例
public static void main(String[] args) throws ScriptException, InterruptedException, ParseException, IOException { System.out.println( 10.2 * 100);//期望1020 实际:1019.9999999999999 System.out.println( 10.2 * 100D);//期望1020 实际:1019.9999999999999 System.out.println(new BigDecimal(10.2).multiply(new BigDecimal(100)));//期望1020 实际:1019.999999999999928945726423989981412887573242187500 System.out.println(new BigDecimal(10.2D).multiply(new BigDecimal(100D)));//期望1020 实际:1019.999999999999928945726423989981412887573242187500 System.out.println(new BigDecimal(Double.toString(10.2)).multiply(new BigDecimal(Double.toString(100))));//期望1020 实际:1020.00 System.out.println(0.1+0.2);//期望0.3 实际:0.30000000000000004 System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));//期望0.3 实际:0.3000000000000000166533453693773481063544750213623046875 System.out.println(new BigDecimal(Double.toString(0.1)).multiply(new BigDecimal(Double.toString(0.3))));//期望0.03 实际:0.03 }
针对小数直接运算原因
java算数运算,都是需要将数字转为二进制再进行运算,但是二进制并不能精确表达所有小数,通过转为二进制后再运算有可能会丢失精度 所以使用BigDecimal 进行数学运算
针对BigDecimal double构造函数运算丢失精度问题原因
java 手册api函数说明
public BigDecimal(double val)
- 此构造方法的结果有一定的不可预知性。有人可能认为在 Java 中写入 new BigDecimal(0.1) 所创建的 BigDecimal 正好等于 0.1(非标度值 1,其标度为 1),但是它实际上等于 0.1000000000000000055511151231257827021181583404541015625。这是因为 0.1 无法准确地表示为 double (或者说对于该情况,不能表示为任何有限长度的二进制小数)。这样, 传入 到构造方法的值不会正好等于 0.1(虽然表面上等于该值)。
- 另一方面, String 构造方法是完全可预知的:写入 new BigDecimal("0.1") 将创建一个 BigDecimal ,它 正好 等于预期的 0.1。因此,比较而言,通常建议优先使用 String 构造方法 。
- 当 double 必须用作 BigDecimal 的源时,请注意,此构造方法提供了一个准确转换;它不提供与以下操作相同的结果:先使用
Double.toString(double)
方法,然后使用BigDecimal(String)
构造方法,将 double 转换为 String 。要获取该结果,请使用 staticvalueOf(double)
方法。
所以我们进行小数运算 BigDecaimal(String) 要用字符串类型的构造函数
标签:
java陷阱
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!