jiahaipeng

我要飞得更高
随笔 - 30, 文章 - 0, 评论 - 149, 阅读 - 85799
  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

js浮点运算bug的解决办法

Posted on   飞得更高  阅读(11751)  评论(5编辑  收藏  举报

一、事件   

    最近在做项目的管理费,在客户端用js写的。发现了一个重大问题,比如0.7*8.1=5.6699999999,10.3-9.2=1.100000000014.为什么会出现这些问题呢?难道是js对浮点数运算的bug?该怎么办?

二、响应

     “内事不决问百度,外事不决问google”啊,上网查找资料,证实了我的想法,也找到了解决方案。同时我也有了自己的解决方案。

     1、网上解决方案是对浮点数的运算做了类似重写,代码如下:(转载)

Code

    这样,如果你要计算0.7*8.1 只需(0.7).mul(8.1)调用mul方法就可以得到准确的答案。

    2、我的解决方案

    这不失为一种好方法,然而,我想将浮点型转化为整形后再做运算也是解决的一种方法。如0.7*8.1,我们可以这么算(0.7*10)*(8.1*10)/100,结果为5.67,显然是可以的。又通过项目的实践,都能得出准确的结果。

三、总结:

     1、尽量不要用JS做复杂的运算,特别是浮点数的运算。

     2、如果一定要进行浮点数的运算的话,先将浮点数转化为整形,再运算。

编辑推荐:
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
阅读排行:
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· [AI/GPT/综述] AI Agent的设计模式综述
点击右上角即可分享
微信分享提示