2016年9月17日
【解惑】剖析float型的内存存储和精度丢失问题
摘要： 问题提出：12.0f-11.9f=0.10000038，"减不尽"为什么？ 现在我们就详细剖析一下浮点型运算为什么会造成精度丢失？ 1、小数的二进制表示问题 首先我们要搞清楚下面两个问题： (1) 十进制整数如何转化为二进制数 算法很简单。举个例子，11表示成二进制数： 11/2=5 余 1 5/2 阅读全文
posted @ 2016-09-17 00:01 VinoZhu 阅读(923) 评论(0) 推荐(0) 编辑