会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Meteoric_cry
博客园
首页
新随笔
联系
订阅
管理
2017年7月31日
IEEE 754二进制浮点数算术标准
摘要: 可能很多人都遇到过浮点数精度丢失的问题,下面以JavaScript为例。 1 - 0.9 = 0.09999999999999998 纳尼,不应该是0.1么,怎么变成0.09999999999999998呢?这就要从ECMAScript标准讲起了。 ECMAScript 并不像其他编程语言一样对数值类型进行比较具体的划分。ECMAScript 中并不区分整数和浮点数,也不区分不同长度的整数和...
阅读全文
posted @ 2017-07-31 22:39 meteoric_cry
阅读(6768)
评论(0)
推荐(1)
编辑
公告