Nodejs学习笔记(十七)--- 浮点运算decimal.js
目录
前言
开发过程中免不了有浮点运算,JavaScript浮点运算的精度问题会带来一些困扰
JavaScript 只有一种数字类型 ( Number )
JavaScript采用 IEEE 754 标准双精度浮点(64),64位中 1位浮点数中符号,11存储指数,52位存储浮点数的有效数字
有时候小数在二进制中表示是无限的,所以从53位开始就会舍入(舍入规则是0舍1入),这样就造成了“浮点精度问题”(由于舍入规则有时大点,有时小点)
下面用示例来看看
JavaScript加减乘除运算
加法

var a = 0.1; var b = 0.2; console.log('0.1 以二进制表示:', a.toString(2)); console.log('0.2 以二进制表示:', b.toString(2)); console.log('直接加法运算 0.1 + 0.2 =', a + b);
示例: 0.1 + 0.2
预期结果:0.3
实际结果:0.30000000000000004
减法

var a = 1.0; var b = 0.7; console.log('1.0 以二进制表示:', a.toString(2)); console.log('0.7 以二进制表示:', b.toString(2)); console.log('直接减法运算 1.0 - 0.7 =', a - b);
示例: 1.0 - 0.7
预期结果:0.3
实际结果:0.30000000000000004
乘法

var a = 1.01; var b = 1.003; console.log('1.01 以二进制表示:', a.toString(2)); console.log('1.003 以二进制表示:', b.toString(2)); console.log('直接乘法运算 1.01 * 1.003 =', a * b);
示例: 1.01 * 1.003
预期结果:1.01303
实际结果:1.0130299999999999
除法

var a = 0.029; var b = 10; console.log('0.029 以二进制表示:', a.toString(2)); console.log('10 以二进制表示:', b.toString(2)); console.log('直接除法运算 0.029 / 10 =', a / b);
示例: 0.029 / 10
预期结果:0.0029
实际结果:0.0029000000000000002
说明:以上加、减、乘、除示例分别演示了JavaScript运算结果(当然实际结果并不是我们想要的),为什么会出现这样的结果,前言中已经说明^_^!
decimal.js加减乘除运算
An arbitrary-precision Decimal type for JavaScript
GITHUB: https://github.com/MikeMcl/decimal.js
API: http://mikemcl.github.io/decimal.js/
NPM: https://www.npmjs.com/package/decimal.js
先安装decimal.js
npm install --save decimal.js
把上面的示例,用decimal.js运算一次,对比一下结果

var Decimal = require('decimal.js'); //加法 var a = 0.1; var b = 0.2; console.log('直接加法运算 a + b =', a + b); console.log('Decimal.js加法运算 a + b =', new Decimal(a).add(new Decimal(b)).toNumber()); //减法 var a = 1.0; var b = 0.7 console.log('直接减法运算 a - b =', a - b); console.log('Decimal.js减法运算 a - b =', new Decimal(a).sub(new Decimal(b)).toNumber()); //乘法 var a = 1.01; var b = 1.003; console.log('直接乘法运算 a * b =', a * b); console.log('Decimal.js乘法运算 a * b =', new Decimal(a).mul(new Decimal(b)).toNumber()); //除法 var a = 0.029; var b = 10; console.log('直接除法运算 a / b =', a / b); console.log('Decimal.js除法运算 a / b =', new Decimal(a).div(new Decimal(b)).toNumber());
从图中可以看结果一目了然^_^!
说明: “浮点问题”不算是问题,它一直就是这样,也不是JavaScript独有的, 所以这个锅不应该它背^_^!
作 者:
Porschev[钟慰]
出 处:
http://www.cnblogs.com/zhongweiv/
微 博:
http://weibo.com/porschev
欢迎任何形式的转载,但请务必注明原文详细链接
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· 单线程的Redis速度为什么快?
· 展开说说关于C#中ORM框架的用法!
· SQL Server 2025 AI相关能力初探
· Pantheons:用 TypeScript 打造主流大模型对话的一站式集成库
2014-12-12 Windows Server 2008R2 配置网络负载平衡(NLB)