计算机计算小数除法的陷阱

 小学生都知道上面的代码中,8.1/3=2.7

但是计算机计算的结果却出人意料:2.6999999999999997

 

 原因:计算机是用二进制格式存储小数的,这个二进制格式不能精确表示8.1,它只能表示一个非常接近8.1但又不等于8.1的一个数。

posted @ 2024-09-06 16:25  四月柳巷  阅读(6)  评论(0编辑  收藏  举报