打赏

js中0.1+0.2!=0.3的问题

 

 计算机只有高电位,低电位,只能表示0和1 计算机的世界只有二进制

有些小数转2进制时是无限循环的,要失去精度0.1 0.2 0.4 0.8 0.6这些小数都要不精确,计算时带这些小数的,必定结果不对 

解决方案:小数计算,先放大100,计算完结果后四舍五入,再除以100

在线进制转换工具:https://www.sojson.com/hexconvert.html

posted @ 2021-03-11 10:40  刘奇云  阅读(118)  评论(0编辑  收藏  举报