2024年9月6日
计算机计算小数除法的陷阱
摘要： 小学生都知道上面的代码中，8.1/3=2.7 但是计算机计算的结果却出人意料：2.6999999999999997 原因：计算机是用二进制格式存储小数的，这个二进制格式不能精确表示8.1，它只能表示一个非常接近8.1但又不等于8.1的一个数。 阅读全文
posted @ 2024-09-06 16:25 四月柳巷 阅读(2) 评论(0) 推荐(0) 编辑