jiying231mwy

3

《程序是怎样跑起来的》第三章《计算机进行小数运算时出错的原因》时,我知道了计算机在处理小数时可能会遇到的种种问题,以及这些问题的背后原因。首当就是计算机中整数与小数的表示方法的差异。在我们的日常生活中,小数似乎是自然而然的,每个小数点后的数字都有其固定的位置和意义。但在计算机的世界里,由于内存的限制,小数并不能像整数那样精确地被存储。它们是通过浮点数的形式来近似表示的。这就意味着,那些我们在纸上或者口算中得出的小数,在计算机内部可能会存在微小的误差。这种误差可能会在复杂的计算中累积,导致最终结果的偏离。此外,书中的内容还涉及到了浮点数运算的精度问题。我知道了的浮点数,是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数。

posted on 2024-03-10 18:04  一马归一码1111  阅读(6)  评论(0编辑  收藏  举报

导航