整数和浮点数计算得到的值是循环不尽的浮点数解决方案

先说下原因:
计算机把小数转换成二级制,会出现无限循环的情况。再把无限循环的二级制转化成十进制的时候,变成了一个无限循环的数字。在处理双精度浮点数的小数部分最多支持 52 位,所以转换成十进制之后,就出现了很多位小数的存在。

// 封装方法utilsSum.js
export default {
// 相乘除的情况
    NumberMul: (arg1, arg2)=>{
        let m = 0;
        let s1 = arg1.toString();
        let s2 = arg2.toString();
        try {
            m += s1.split(".")[1].length;
        } catch (e) {}
        try {
            m += s2.split(".")[1].length;
        } catch (e) {}
        return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);// 相除的话把这里的符号改一下就可以了
    },
 // 相加减的情况
    NumberReduce: (arg1, arg2)=>{
        arg1 = arg1.toString(), arg2 = arg2.toString(); // 将传入的数据转化为字符串
        var arg1Arr = arg1.split("."), // 将小数的数据从小数点的位置拆开
            arg2Arr = arg2.split("."),
            d1 = arg1Arr.length == 2 ? arg1Arr[1] : "", // 获取第一个数的小数点的长度
            d2 = arg2Arr.length == 2 ? arg2Arr[1] : ""; // 获取第二个数的小数点的长度
        var maxLen = Math.max(d1.length, d2.length); // 获取小数点长度较大的值
        var m = Math.pow(10, maxLen); // 这里表示10的小数点长度次方 也就是说如果小数点长度为2 m的值就是100 如果小数点长度是3 m的值就是1000如果不懂请自行查找api
        var result = Number(((arg1 * m - arg2 * m) / m).toFixed(maxLen)); // 将小数转化为整数后相加在除掉两个数乘过的倍数然后去小数点较长的长度的小数位数,相加的话把这里的符号改一下就可以了
        var d = arguments[2]; // 第三个参数用户可以自行决定是否要传递 用来定义要保留的小数长度
        return typeof d === "number" ? Number((result).toFixed(d)) : result;
    },
}

引用

import utilsSum from "@/utils/utilsSum.js"
utilsSum.NumberReduce(val1,val2)
posted @ 2022-06-13 16:42  seekHelp  阅读(109)  评论(0编辑  收藏  举报