第三章——计算机进行小数运算时出错的原因
摘要：
在使用小数运算时计算机也会出错，这是因为有些十进制的小数无法转换为二进制数———例如二进制数0.0000对应的十进制数是0，二进制数0.0001对应的十进制数为0.625，由此得之二进制数是连续的而十进制数不是连续的，那十进制数0~0.625之间的数就无法用二进制数表示，进而出现错误。 那实际上计算 阅读全文
posted @ 2024-02-05 10:12 程程莹 阅读(21) 评论(0) 推荐(0) 编辑