随笔 - 96  文章 - 0  评论 - 682  阅读 - 22万

Javascript中计算浮点数时的一点需要注意的地方


    在javascript中处理运算内容,如果不是整型的话,可能会出现一些细微的问题,例如下面的运算式:var result = 10031019.05 + 500 - 10000000.15; result=31518.900000000372,其主要是因为js是弱类型语言,如果进行浮点运算的话,就肯定会涉及到转换,后面多出的这些很微小的差别都是因为转换造成的,如果用100.25 * 100依然会有这样的问题,一般情况下,只要通过substring截取一下自己需要的位数即可。 

 

posted on   酸甜西瓜  阅读(251)  评论(0编辑  收藏  举报
编辑推荐:
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
阅读排行:
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· .NET周刊【3月第1期 2025-03-02】
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
< 2009年12月 >
29 30 1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30 31 1 2
3 4 5 6 7 8 9

点击右上角即可分享
微信分享提示