关于在Android或Java中精度缺失的解决方法
left,right是两个String类型的字符串,myres是一个double类型的变量。
如果我们用下面的语句把left,right先转换为double后直接加法的话,如果作3.3乘3之类的运算(被乘数是奇数会出问题),会变成9.8888888889,而不是我们想要的9.9,这就是精度缺失。
myres=Double.valueOf(left)+Double.valueOf(right);
解决方法:
double lt=Double.parseDouble(left);
double rt=Double.parseDouble(right);
BigDecimal b1 = new BigDecimal(Double.toString(lt));
BigDecimal b2 = new BigDecimal(Double.toString(rt));
加法
myres=b1.add(b2).doubleValue();
return myres;
减法
myres=b1.subtract(b2).doubleValue();
return myres;
乘法
myres=b1.multiply(b2).doubleValue();
return myres;
除法
myres=b1.divide(b2).doubleValue();
return myres;
返回的myres是正确的结果,这个也可以应用于Android开发过程中。
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步