posts - 204,  comments - 39,  views - 106万
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
12 2016 档案
Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
摘要:(转)Java浮点数float,bigdecimal和double精确计算的精度误差问题总结 1、float整数计算误差 案例:会员积分字段采用float类型,导致计算会员积分时,7位整数的数据计算结果出现误差。 原因:超出float精度范围,无法精确计算。 float和double的精度是由尾数的 阅读全文
posted @ 2016-12-22 13:49 王玉涛 阅读(11701) 评论(0) 推荐(1) 编辑

点击右上角即可分享
微信分享提示