js javascipt数据精度问题

js javascipt数据精度问题

0.7+0.1
// 0.7999999999999999
(0.7*10+0.1*10)/10
// 0.8

 加法-扩大成整数计算,结果再缩小转化

0.1+0.2
0.30000000000000004
(0.1*100+0.1*100)/100
0.2

乘法-扩大成整数计算,结果再缩小转化

0.11*1.1
0.12100000000000001
(0.11*100*1.1*100)/10000
0.12100000000000002   // 乘法不好使

解决

 

 

 

 

 

end.

posted @ 2019-12-10 14:35  wxid_m2pywu7fxu1f  阅读(101)  评论(0编辑  收藏  举报