《程序是怎样跑起来的》第三章读后感

《程序是怎样跑起来的》第三章主要介绍了计算机进行小数运算时出错的原因,以及避免计算机在计算小数时出现错误的方法。

计算机在进行小数运算时可能会出现错误,主要原因是有些十进制的小数无法转换成二进制数。例如,将十进制数0.1转换成二进制后,会变成0.00011001100这样的循环小数,在计算机进行小数运算时无法正确表示的数值,最后都变成了近似值。
为了避免计算机在计算小数时出现错误,可以采用回避策略,即无视错误。根据程序目的不同,有时一些微小的偏差并不会造成什么问题。另一个方法是把小数转化成整数计算。
再一个则是浮点数精度有限,计算机采用浮点数来处理小数,无论是使用单精度浮点数还是双精度浮点数,浮点数的数据精度有限,只能表示一定范围内的小数。当进行小数计算时,该范围之外的小数就会被截断或四舍五入。
所以尽管计算机在计算小数时可能会出现错误,但通常这些错误是在可接受的误差范围内的。在使用计算机进行小数计算时,建议使用可靠的软件和算法,并对计算结果进行仔细的验证和检查。
而读了《程序是怎样跑起来的》第三章后也让我对计算机内部的小数运算有了更深入的理解。

posted @ 2024-02-18 21:04  Ascend1nG  阅读(6)  评论(0编辑  收藏  举报