会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
eval_met
博客园
首页
新随笔
联系
管理
订阅
2017年3月14日
关于0.1+0.2!=0.3浮点数计算分析与解决方法
摘要: 最近在做一个计算器,发现0.1+0.2!=0.3,感觉计算机有时候也是有问题的。了解资料才看到小数点在计算机中是以二进制表示,而有些小数用二进制表示是无穷,所以才会出现上面这种精确度的问题。· 一些浮点数表示成二进制 十进制 二进制 0.1 0.0001 1001 1001 1001 ... 0.2
阅读全文
posted @ 2017-03-14 13:09 eval_met
阅读(3226)
评论(0)
推荐(0)
编辑