会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Jersen
博客园
首页
新随笔
联系
订阅
管理
2014年5月29日
使用浮点类型导致计算误差以及判断误差
摘要: 1.计算误差浮点的精度是可变的,除非分数是2的整数幂次方,否者无法用有限的二进制小数表示。即 0.1 分母为10, 则分数应该是2的3次方至2的4次方之间,具体是多少我也算不出来了···。即这个次方数会为一个特别长的小数,在有限的长度中无法体现出来。则0.1会被表示为一个十分接近0.1的值,如0.1...
阅读全文
posted @ 2014-05-29 22:06 Jersen
阅读(315)
评论(0)
推荐(0)
编辑
公告