会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
一只艾米果
不积跬步无以至千里
博客园
首页
新随笔
管理
2019年6月20日
float类型数据精度问题:12.0f-11.9f=0.10000038,"减不尽"为什么?
摘要: 现在我们就详细剖析一下浮点型运算为什么会造成精度丢失? 1、小数的二进制表示问题 首先我们要搞清楚下面两个问题: (1) 十进制整数如何转化为二进制数 算法很简单。举个例子,11表示成二进制数: 11/2=5 余 1 5/2=2 余 1 2/2=1 余 0 1/2=0 余 1 0结束 11二进制表示
阅读全文
posted @ 2019-06-20 10:03 一只艾米果
阅读(786)
评论(0)
推荐(0)
编辑
公告