淡语

导航

解决js计算精度丢失问题

/**
 * 计算操作类
 * @param {*} arg1 
 * @param {*} arg2 
 */




/**
 * @param {除法函数
//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 
//调用:div(arg1,arg2) 
//返回值:arg1除以arg2的精确结果 } arg1 
 * @param {*} arg2 
 */
const div = function (arg1,arg2){ 
  var t1=0,t2=0,r1,r2; 
  try{t1=arg1.toString().split(".")[1].length}catch(e){}   //--小数点后的长度
  try{t2=arg2.toString().split(".")[1].length}catch(e){}  //--小数点后的长度
  //with(Math){ 
    r1=Number(arg1.toString().replace(".",""))  //--去除小数点变整数
    r2=Number(arg2.toString().replace(".",""))  //--去除小数点变整数
    return (r1/r2)*pow(10,t2-t1);   //---整数相除 在乘上10的平方  小数点的长度
  //} 
} 


/**
 * @param {乘法函数
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 
//mul(arg1,arg2) 
//返回值:arg1乘以arg2的精确结果 
 * @param {*} arg2 
 */
const mul = function(arg1,arg2){ 
  var m=0,s1=arg1.toString(),s2=arg2.toString(); 
  try{m+=s1.split(".")[1].length}catch(e){} 
  try{m+=s2.split(".")[1].length}catch(e){} 
  return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
} 

/**
 * @param {加法函数
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 
//add(arg1,arg2) 
//返回值:arg1加上arg2的精确结果 
 * @param {*} arg2 
 */
const add = function (arg1,arg2){ 
  var r1,r2,m; 
  try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
  try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
  m=Math.pow(10,Math.max(r1,r2)) 
  return (arg1*m+arg2*m)/m 
} 


/**
 * @param {减法函数
 * @param {*} arg2 
 */
const sub = function(arg1,arg2){ 
  var r1,r2,m,n; 
  try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
  try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
  m=Math.pow(10,Math.max(r1,r2)); 
  //last modify by deeka 
  //动态控制精度长度 
  n=(r1>=r2)?r1:r2; 
  return ((arg1*m-arg2*m)/m).toFixed(n); 
}

 

posted on 2022-01-04 09:44  object360  阅读(530)  评论(0编辑  收藏  举报