廊虞

一如既往个人网站

摘要: # 为什么计算机对浮点型数字计算存在误差? 我们输入的十进制小数在计算机中都是以二进制进行存储。比如: 我们把0.25转换为二进制 0.25 * 2 = 0.5 取0 0.50 * 2 = 1.0 取1 所以十进制0.25的二进制应当为0.01 但是我们把0.3转换为二进制存储 0.3 * 2 = 阅读全文
posted @ 2023-04-11 23:32 廊虞 阅读(421) 评论(1) 推荐(1) 编辑