js基础-浮点精度
0.1 + 0.2 !== 0.3
原因:js的数据类型为Number,采用的是双精度(64位)。而数据计算,是转换成2进制进行,转换后的长度如果超过指定的长度,则会丢弃超出的部分,从而导致精度丢失。待计算完成后,又转化为原来的长度,所以大小会有变化。
常见解决浮点数精度问题的方法:
1.toFixed();该方法只是尽可能让数据接近真实值;
2.将小数转化成整数计算;
3.转换成字符串去计算,常见插件bignumber.js/big.js/decimal.js
0.1 + 0.2 !== 0.3
原因:js的数据类型为Number,采用的是双精度(64位)。而数据计算,是转换成2进制进行,转换后的长度如果超过指定的长度,则会丢弃超出的部分,从而导致精度丢失。待计算完成后,又转化为原来的长度,所以大小会有变化。
常见解决浮点数精度问题的方法:
1.toFixed();该方法只是尽可能让数据接近真实值;
2.将小数转化成整数计算;
3.转换成字符串去计算,常见插件bignumber.js/big.js/decimal.js
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· Docker 太简单,K8s 太复杂?w7panel 让容器管理更轻松!