《程序是怎样跑起来的》第三章读后感

《程序是怎样跑起来的》第三章主要介绍了计算机进行小数运算时出错的原因,以及避免计算机在计算小数时出现错误的方法。

计算机在进行小数运算时可能会出现错误,主要原因是有些十进制的小数无法转换成二进制数。例如,将十进制数0.1转换成二进制后,会变成0.00011001100这样的循环小数,在计算机进行小数运算时无法正确表示的数值,最后都变成了近似值。
为了避免计算机在计算小数时出现错误,可以采用回避策略,即无视错误。根据程序目的不同,有时一些微小的偏差并不会造成什么问题。另一个方法是把小数转化成整数计算。
再一个则是浮点数精度有限,计算机采用浮点数来处理小数,无论是使用单精度浮点数还是双精度浮点数,浮点数的数据精度有限,只能表示一定范围内的小数。当进行小数计算时,该范围之外的小数就会被截断或四舍五入。
所以尽管计算机在计算小数时可能会出现错误,但通常这些错误是在可接受的误差范围内的。在使用计算机进行小数计算时,建议使用可靠的软件和算法,并对计算结果进行仔细的验证和检查。
而读了《程序是怎样跑起来的》第三章后也让我对计算机内部的小数运算有了更深入的理解。

posted @   Ascend1nG  阅读(8)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· 单元测试从入门到精通
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 上周热点回顾(3.3-3.9)
· winform 绘制太阳,地球,月球 运作规律
点击右上角即可分享
微信分享提示