随笔 - 301  文章 - 2  评论 - 16  阅读 - 34万

BigDecimal.setScale()方法用于商业计算的精度设置问题详解

BigDecimal.setScale()方法用于商业计算的精度设置问题详解


    网上的说法繁杂,看起来诸多不便,并且有的说法也不太准确,在这里 做一下求证。用的较多的4个参数:
BigDecimal.ROUND_UP 这个方法做直接进位处理,但是有个特殊情况需要考虑,如果将要舍弃的位上的值是0,不做进位处理。
BigDecimal.ROUND_DOWN 这个方法做直接舍弃处理
BigDecimal.ROUND_HALF_UP 这个方法就是大名鼎鼎的四舍五入

BigDecimal.ROUND_HALF_DOWN 这个方法准确来说,是五舍六入

 

 

  1.  
    import java.math.BigDecimal;
  2.  
     
  3.  
    /**
  4.  
    *
  5.  
    * @author yangcq
  6.  
    * Java常用商业计算工具类BigDecimal的精度设置方法setScale()详解
  7.  
    *
  8.  
    */
  9.  
    public class BigDecimalTest {
  10.  
     
  11.  
    public static void main(String[] args) {
  12.  
    bigDecimalTest();
  13.  
    }
  14.  
     
  15.  
    private static void bigDecimalTest(){
  16.  
    BigDecimal bigDecimal_01 = new BigDecimal("918.845");
  17.  
    BigDecimal bigDecimal_02 = new BigDecimal("918.844");
  18.  
    BigDecimal bigDecimal_03 = new BigDecimal("918.846");
  19.  
     
  20.  
    bigDecimal_01.setScale(3);
  21.  
    bigDecimal_01.setScale(2,BigDecimal.ROUND_UP);
  22.  
    bigDecimal_01.setScale(2,BigDecimal.ROUND_DOWN);
  23.  
    bigDecimal_01.setScale(2,BigDecimal.ROUND_HALF_UP);
  24.  
    bigDecimal_01.setScale(2,BigDecimal.ROUND_HALF_DOWN);
  25.  
     
  26.  
    System.out.println("测试数据:" + bigDecimal_01);
  27.  
    System.out.println("BigDecimal.ROUND_UP = " + bigDecimal_01.setScale(2,BigDecimal.ROUND_UP));
  28.  
    System.out.println("BigDecimal.ROUND_DOWN = " + bigDecimal_01.setScale(2,BigDecimal.ROUND_DOWN));
  29.  
    System.out.println("BigDecimal.ROUND_HALF_UP = " + bigDecimal_01.setScale(2,BigDecimal.ROUND_HALF_UP));
  30.  
    System.out.println("BigDecimal.ROUND_HALF_DOWN = " + bigDecimal_01.setScale(2,BigDecimal.ROUND_HALF_DOWN));
  31.  
     
  32.  
    System.out.println("测试数据:" + bigDecimal_02);
  33.  
    System.out.println("BigDecimal.ROUND_UP = " + bigDecimal_02.setScale(2,BigDecimal.ROUND_UP));
  34.  
    System.out.println("BigDecimal.ROUND_DOWN = " + bigDecimal_02.setScale(2,BigDecimal.ROUND_DOWN));
  35.  
    System.out.println("BigDecimal.ROUND_HALF_UP = " + bigDecimal_02.setScale(2,BigDecimal.ROUND_HALF_UP));
  36.  
    System.out.println("BigDecimal.ROUND_HALF_DOWN = " + bigDecimal_02.setScale(2,BigDecimal.ROUND_HALF_DOWN));
  37.  
     
  38.  
    System.out.println("测试数据:" + bigDecimal_03);
  39.  
    System.out.println("BigDecimal.ROUND_UP = " + bigDecimal_03.setScale(2,BigDecimal.ROUND_UP));
  40.  
    System.out.println("BigDecimal.ROUND_DOWN = " + bigDecimal_03.setScale(2,BigDecimal.ROUND_DOWN));
  41.  
    System.out.println("BigDecimal.ROUND_HALF_UP = " + bigDecimal_03.setScale(2,BigDecimal.ROUND_HALF_UP));
  42.  
    System.out.println("BigDecimal.ROUND_HALF_DOWN = " + bigDecimal_03.setScale(2,BigDecimal.ROUND_HALF_DOWN));
  43.  
     
  44.  
    // BigDecimal.ROUND_UP 这个方法做直接进位处理,但是有个特殊情况需要考虑,如果将要舍弃的位上的值是0,不做进位处理。
  45.  
    BigDecimal bigDecimal_04 = new BigDecimal("918.850");
  46.  
    System.out.println("测试数据:" + bigDecimal_04);
  47.  
    System.out.println("BigDecimal.ROUND_UP = " + bigDecimal_04.setScale(2,BigDecimal.ROUND_UP));
  48.  
    System.out.println("BigDecimal.ROUND_DOWN = " + bigDecimal_04.setScale(2,BigDecimal.ROUND_DOWN));
  49.  
    System.out.println("BigDecimal.ROUND_HALF_UP = " + bigDecimal_04.setScale(2,BigDecimal.ROUND_HALF_UP));
  50.  
    System.out.println("BigDecimal.ROUND_HALF_DOWN = " + bigDecimal_04.setScale(2,BigDecimal.ROUND_HALF_DOWN));
  51.  
    }
  52.  
    }


-------------------------------------控制台输出:----------------------------------------------

 

测试数据:918.845
BigDecimal.ROUND_UP = 918.85
BigDecimal.ROUND_DOWN = 918.84
BigDecimal.ROUND_HALF_UP = 918.85
BigDecimal.ROUND_HALF_DOWN = 918.84
测试数据:918.844
BigDecimal.ROUND_UP = 918.85
BigDecimal.ROUND_DOWN = 918.84
BigDecimal.ROUND_HALF_UP = 918.84
BigDecimal.ROUND_HALF_DOWN = 918.84
测试数据:918.846
BigDecimal.ROUND_UP = 918.85
BigDecimal.ROUND_DOWN = 918.84
BigDecimal.ROUND_HALF_UP = 918.85
BigDecimal.ROUND_HALF_DOWN = 918.85
测试数据:918.850
BigDecimal.ROUND_UP = 918.85
BigDecimal.ROUND_DOWN = 918.85
BigDecimal.ROUND_HALF_UP = 918.85
BigDecimal.ROUND_HALF_DOWN = 918.85

posted on   Code2020  阅读(875)  评论(0编辑  收藏  举报
编辑推荐:
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

点击右上角即可分享
微信分享提示