会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
博客园
首页
网络
转载
新随笔
联系
订阅
管理
随笔 - 0
文章 - 0
评论 - 0
博客园
首页
新随笔
联系
订阅
管理
2018年3月27日
舍入误差
摘要: 1.11 100 = 111.00000000000001 0.1+0.2!=0.3 true 0.1+0.2 = 0.30000000000000004 0.1 1000 + 0.2 1000 != 0.3 1000 false 听说阿里在做数值计算的时候,都是先乘以一个大的数,在做数值计算 把一
阅读全文
posted @ 2018-03-27 16:01 gloxing
阅读(1793)
评论(0)
推荐(0)
编辑
公告