会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
guoDaXia的博客
博客园
首页
新随笔
联系
订阅
管理
2016年8月15日
二进制运算误差问题
摘要: 我们知道在处理一些浮点数的时候,运算会产生误差,得到的是类似无限循环。 例子: 其原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据。 下面我们来分析下:我们知道将一个十进制数值转换为二进制数值,需要通过下面的计算方法:1. 整数部分:连续用该整数除以2,取余数,然后商再除以2,直
阅读全文
posted @ 2016-08-15 11:43 guodaxia
阅读(4409)
评论(0)
推荐(0)
编辑
公告