2016年10月15日

js float浮点数计算精度问题
摘要： /** * floatObj 包含加减乘除四个方法，能确保浮点数运算不丢失精度 * * 我们知道计算机编程语言里浮点数计算会存在精度丢失问题（或称舍入误差），其根本原因是二进制和实现位数限制有些数无法有限表示 * 以下是十进制小数对应的二进制表示 * 0.1 >> 0.0001 1001 1001 1001…（1001无限循环） * 0.2 >> 0.0011 0... 阅读全文
posted @ 2016-10-15 14:56 LingoLiang 阅读(2745) 评论(3) 推荐(0) 编辑

导航