随笔分类 - Java

摘要：https://www.cnblogs.com/xiaoshen666/p/10863599.html 阅读全文

posted @ 2020-02-12 16:30 一只艾米果阅读(110) 评论(0) 推荐(0) 编辑

float类型数据精度问题：12.0f-11.9f=0.10000038，"减不尽"为什么？

摘要：现在我们就详细剖析一下浮点型运算为什么会造成精度丢失？ 1、小数的二进制表示问题首先我们要搞清楚下面两个问题： (1) 十进制整数如何转化为二进制数算法很简单。举个例子，11表示成二进制数： 11/2=5 余 1 5/2=2 余 1 2/2=1 余 0 1/2=0 余 1 0结束 11二进制表示阅读全文

posted @ 2019-06-20 10:03 一只艾米果阅读(808) 评论(0) 推荐(0) 编辑