2016年12月22日
摘要: (转)Java浮点数float,bigdecimal和double精确计算的精度误差问题总结 1、float整数计算误差 案例:会员积分字段采用float类型,导致计算会员积分时,7位整数的数据计算结果出现误差。 原因:超出float精度范围,无法精确计算。 float和double的精度是由尾数的 阅读全文
posted @ 2016-12-22 13:49 王玉涛 阅读(11675) 评论(0) 推荐(1) 编辑