震惊!计算机连0.3+0.6都算不对?浅谈IEEE754浮点数算数标准
>>> 0.3+0.6 0.8999999999999999 >>> 1-0.9 0.09999999999999998 >>> 0.1+0.1+0.1 0.30000000000000004
最初碰到这个问题是在写js的金额计算中遇到的,始终找不到是什么原因造成的,于是把锅甩给了JS:垃圾js浮点运算有bug!然后百度拷贝了一个解决浮点
运算的函数才解决了问题。
直到最近才发现,原来不仅js会“算不清”0.3+0.6,C#,JAVA,Python等很多语言都绕不过这个问题!
原来这是因为IEEE754浮点数算数标准,这个算数标准不使用小数点,而是使用分数和指数来表示小数,例如0.5会用1/2表示,0.75用1/2+1/4表示,0.875用1/2+1/4+1/8表示。然而有的小数无法使用有限的分数来表示,如0.1,使用1/16+1/32+1/256+1/512+...+1/8192+...表示,因此才造成了浮点数计算的误差。
怎么解决呢?C#,JAVA,Python都使用Decimal计算来替代浮点数的计算,尤其是涉及钱的计算!JS呢?百度一个处理函数调一下就ok啦~
这里附上js处理浮点预算的函数:
function add(a, b) { var c, d, e; try { c = a.toString().split(".")[1].length; } catch (f) { c = 0; } try { d = b.toString().split(".")[1].length; } catch (f) { d = 0; } return e = Math.pow(10, Math.max(c, d)), (mul(a, e) + mul(b, e)) / e; } function sub(a, b) { var c, d, e; try { c = a.toString().split(".")[1].length; } catch (f) { c = 0; } try { d = b.toString().split(".")[1].length; } catch (f) { d = 0; } return e = Math.pow(10, Math.max(c, d)), (mul(a, e) - mul(b, e)) / e; } function mul(a, b) { var c = 0, d = a.toString(), e = b.toString(); try { c += d.split(".")[1].length; } catch (f) {} try { c += e.split(".")[1].length; } catch (f) {} return Number(d.replace(".", "")) * Number(e.replace(".", "")) / Math.pow(10, c); } function div(a, b) { var c, d, e = 0, f = 0; try { e = a.toString().split(".")[1].length; } catch (g) {} try { f = b.toString().split(".")[1].length; } catch (g) {} return c = Number(a.toString().replace(".", "")), d = Number(b.toString().replace(".", "")), mul(c / d, Math.pow(10, f - e)); }