整数和浮点数计算得到的值是循环不尽的浮点数解决方案
先说下原因:
计算机把小数转换成二级制,会出现无限循环的情况。再把无限循环的二级制转化成十进制的时候,变成了一个无限循环的数字。在处理双精度浮点数的小数部分最多支持 52 位,所以转换成十进制之后,就出现了很多位小数的存在。
// 封装方法utilsSum.js
export default {
// 相乘除的情况
NumberMul: (arg1, arg2)=>{
let m = 0;
let s1 = arg1.toString();
let s2 = arg2.toString();
try {
m += s1.split(".")[1].length;
} catch (e) {}
try {
m += s2.split(".")[1].length;
} catch (e) {}
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);// 相除的话把这里的符号改一下就可以了
},
// 相加减的情况
NumberReduce: (arg1, arg2)=>{
arg1 = arg1.toString(), arg2 = arg2.toString(); // 将传入的数据转化为字符串
var arg1Arr = arg1.split("."), // 将小数的数据从小数点的位置拆开
arg2Arr = arg2.split("."),
d1 = arg1Arr.length == 2 ? arg1Arr[1] : "", // 获取第一个数的小数点的长度
d2 = arg2Arr.length == 2 ? arg2Arr[1] : ""; // 获取第二个数的小数点的长度
var maxLen = Math.max(d1.length, d2.length); // 获取小数点长度较大的值
var m = Math.pow(10, maxLen); // 这里表示10的小数点长度次方 也就是说如果小数点长度为2 m的值就是100 如果小数点长度是3 m的值就是1000如果不懂请自行查找api
var result = Number(((arg1 * m - arg2 * m) / m).toFixed(maxLen)); // 将小数转化为整数后相加在除掉两个数乘过的倍数然后去小数点较长的长度的小数位数,相加的话把这里的符号改一下就可以了
var d = arguments[2]; // 第三个参数用户可以自行决定是否要传递 用来定义要保留的小数长度
return typeof d === "number" ? Number((result).toFixed(d)) : result;
},
}
引用
import utilsSum from "@/utils/utilsSum.js"
utilsSum.NumberReduce(val1,val2)
分类:
JS
, vue相关 / vue2
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· .NET10 - 预览版1新功能体验(一)