2020年6月23日
关于0.3f不等于0.3的细节
摘要： 首先0.3f属于float数据类型，0.3属于double数据类型，而float长度为32位，double长度为64位。 在计算机中0.3f与0.3作比较时，需要转换成二进制数后再开始比较 但是0.3f转换成二进制是无线循环的一个值，但是由于精度关系所以会对值进行保留，所以相同的0.3数值会由于fl 阅读全文
posted @ 2020-06-23 20:09 大明湖畔的闰土 阅读(747) 评论(0) 推荐(0) 编辑