2021年12月19日
关于float在多位数printf时，输出结果不一致的问题
摘要： 问题 类似，可以看到下面的这个问题 回答 总的来说，浮点数无法表示0.1。 这是因为,根据IEEE浮点数标准，float的尾数是23位，权分别为$2^{-1},2^{-2},...$。0.1 = 1/10 = 1/2 * 1/5 = 1 * %2^{-1}% * 1/5，而1/5无法直接找到对应的权 阅读全文
posted @ 2021-12-19 18:02 ijpq 阅读(402) 评论(0) 推荐(0) 编辑