2016年8月15日
二进制运算误差问题
摘要： 我们知道在处理一些浮点数的时候，运算会产生误差，得到的是类似无限循环。 例子： 其原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据。 下面我们来分析下：我们知道将一个十进制数值转换为二进制数值，需要通过下面的计算方法：1. 整数部分：连续用该整数除以2，取余数，然后商再除以2，直 阅读全文
posted @ 2016-08-15 11:43 guodaxia 阅读(4409) 评论(0) 推荐(0) 编辑