【Double】double精度问题和int、long除不尽取舍问题

看了老半天,真心没搞懂,留下几篇文章,后面继续跟进吧....

一、如何理解double精度丢失问题? - 知乎

https://www.zhihu.com/question/42024389/answer/93528601
注:产生原因:小数除不尽,然后系统自动保留精度,最终,精度问题引发了不准确。
这篇文章给了详细的解释,收藏一波。

二、浮点数的二进制表示 - 阮一峰的网络日志

http://www.ruanyifeng.com/blog/2010/06/ieee_floating-point_representation.html
注:这篇文章讲了C中的float存储,主要讲了国际标准IEEE 754如何表示一个二进制浮点数,需要好好理解,但是目前...并不理解,后面如果有机会,再跟进一波。

三、int和long除不尽时的取整

实例见下图:可以发现,小数部分是全舍,非四舍五入。

posted @ 2018-06-29 10:08  不无聊  阅读(763)  评论(0编辑  收藏  举报