2019 年 6月 10 日随笔档案 - 吃羊的草

2019年6月10日

摘要： 1、BigDecimal简介 BigDecimal 由任意精度的整数非标度值和32 位的整数标度 (scale) 组成。如果为零或正数，则标度是小数点后的位数。如果为负数，则将该数的非标度值乘以 10 的负scale 次幂。因此，BigDecimal表示的数值是(unscaledValue × 1 阅读全文

posted @ 2019-06-10 14:48 吃羊的草阅读(519) 评论(0) 推荐(0) 编辑

double使用BigDecimal进行计算出现精确度问题

摘要： 1、为什么要用BigDecimal去计算数据？原因在于我们的计算机是二进制的。浮点数（double、float ）没有办法是用二进制进行精确表示。我们的CPU表示浮点数由两个部分组成：指数和尾数，这样的表示方法一般都会失去一定的精确度，有些浮点数运算也会产生一定的误差。 2、使用new BigDec 阅读全文

posted @ 2019-06-10 10:30 吃羊的草阅读(756) 评论(0) 推荐(0) 编辑