js 页面小数相加精度问题

解决方法:把需要计算的数字升级(乘以10的n次幂)成计算机能够精确识别的整数,等计算完毕再降级(除以10的n次幂),这是大部分编程语言处理精度差异的通用方法。 

比如计算0.33和5.2的和,则需要把(0.33*100+5.2*100)/100。

函数:

var numAdd = function (num1, num2) {//要相加的两个数
var baseNum, baseNum1, baseNum2;
try {
baseNum1 = num1.toString().split(".")[1].length;
} catch (e) {
baseNum1 = 0;
}
try {
baseNum2 = num2.toString().split(".")[1].length;
} catch (e) {
baseNum2 = 0;
}
baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
var n = (num1 * baseNum + num2 * baseNum) / baseNum;
return n;
};

posted @ 2021-02-07 14:27  就一个  阅读(1783)  评论(0编辑  收藏  举报