会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
SuperLiangG
2016年10月15日
js float浮点数计算精度问题
摘要: /** * floatObj 包含加减乘除四个方法,能确保浮点数运算不丢失精度 * * 我们知道计算机编程语言里浮点数计算会存在精度丢失问题(或称舍入误差),其根本原因是二进制和实现位数限制有些数无法有限表示 * 以下是十进制小数对应的二进制表示 * 0.1 >> 0.0001 1001 1001 1001…(1001无限循环) * 0.2 >> 0.0011 0...
阅读全文
posted @ 2016-10-15 14:56 LingoLiang
阅读(2731)
评论(3)
推荐(0)
编辑
导航
博客园
首页
新随笔
联系
订阅
管理
公告