前端JavaScript的精确计算问题
-
问题发现
- "47.900000" * "771.65" = 36962.034999999996 (错误) 36962.035 (正确)
-
问题定位
- JavaScript 前端计算不精确(浮点数计算的精确问题)
-
问题解决
除法函数,用来得到精确的除法结果
说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。
调用:accDiv(arg1,arg2)
返回值:arg1除以arg2的精确结果
function accDiv(arg1, arg2) {
var t1 = 0,t2 = 0,r1, r2;
try {
t1 = arg1.toString().split(".")[1].length
} catch (e) {}
try {
t2 = arg2.toString().split(".")[1].length
} catch (e) {}
with(Math) {
r1 = Number(arg1.toString().replace(".", ""))
r2 = Number(arg2.toString().replace(".", ""))
return (r1 / r2) * pow(10, t2 - t1);
}
}
乘法函数,用来得到精确的乘法结果
说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。
调用:accMul(arg1,arg2)
返回值:arg1乘以arg2的精确结果
function accMul(arg1, arg2) {
var m = 0,
s1 = arg1.toString(),
s2 = arg2.toString();
try {
m += s1.split(".")[1].length
} catch (e) {}
try {
m += s2.split(".")[1].length
} catch (e) {}
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}
加法函数,用来得到精确的加法结果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
return (arg1*m+arg2*m)/m;
}
减法函数
function accSub(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//last modify by deeka
//动态控制精度长度
n=(r1>=r2)?r1:r2;
return ((arg2*m-arg1*m)/m).toFixed(n);
}
信念是基石心学Plus版 :痛苦预示着超脱
本文来自博客园,作者:信念是基石心学Plus版,转载请注明原文链接:https://www.cnblogs.com/supperlhg/p/17359376.html