[转]浮点运算decimal.js

开发过程中免不了有浮点运算,JavaScript浮点运算的精度问题会带来一些困扰

 JavaScript 只有一种数字类型 ( Number )

 JavaScript采用 IEEE 754 标准双精度浮点(64),64位中 1位浮点数中符号,11存储指数,52位存储浮点数的有效数字

 有时候小数在二进制中表示是无限的,所以从53位开始就会舍入(舍入规则是0舍1入),这样就造成了“浮点精度问题”(由于舍入规则有时大点,有时小点)

 

 下面用示例来看看

JavaScript加减乘除运算

  加法

 

 add.js 示例代码

  示例: 0.1 + 0.2 

  预期结果:0.3

  实际结果:0.30000000000000004

 

 减法

 

 sub.js示例代码

  示例: 1.0 - 0.7 

  预期结果:0.3

  实际结果:0.30000000000000004

 

 乘法

  

 mul.js示例代码

  示例: 1.01 * 1.003

  预期结果:1.01303

  实际结果:1.0130299999999999

 

 除法

 

 div.js示例代码

  示例: 0.029 / 10

  预期结果:0.0029

  实际结果:0.0029000000000000002

 

说明:以上加、减、乘、除示例分别演示了JavaScript运算结果(当然实际结果并不是我们想要的),为什么会出现这样的结果,前言中已经说明^_^!

decimal.js加减乘除运算

An arbitrary-precision Decimal type for JavaScript

 

      GITHUB:  https://github.com/MikeMcl/decimal.js

      API:  http://mikemcl.github.io/decimal.js/

      NPM:  https://www.npmjs.com/package/decimal.js

 

 先安装decimal.js

npm install --save decimal.js

 把上面的示例,用decimal.js运算一次,对比一下结果

 

转自:https://blog.csdn.net/qq3401247010/article/details/78784788

posted @ 2019-08-07 15:12  知九  阅读(721)  评论(0编辑  收藏  举报