摘要: 最后的结果确实False,实在让人无法理解。 后来搜索了一番,找到了原因。 计算机的内存、cpu寄存器等等这些硬件单元都是有限的,只能表示有限位数的二进制位,因此存储的二进制小数就会和实际转换而成的二进制数有一定的误差。(你可以试着将0.3转化为二进制表示,也将出现一个循环小数。)实际上,大多数情况 阅读全文
posted @ 2017-10-08 17:08 bingo彬哥 阅读(1274) 评论(0) 推荐(0) 编辑
本站总访问量