浮点数的误差是怎么形成的
摘要:
在这里我用下面的简单的程序一步一步说明,程序很简单,应该很容易看懂。#include <stdio.h>// 浮点数的误差是怎么形成的void main(){ double d = 1099511627775.9998779296875; printf("d = %.14f\n", d); // 问题描述:下面的数输出时并不是在编码时所给的数,有误差,是怎么形成的呢? float f = 1099511627775.9998779296875F; printf("d = %.14f\n", f); // 这是我的机子的情况 printf(&q 阅读全文
posted @ 2012-09-20 17:53 ~菠菜~ 阅读(670) 评论(0) 推荐(0) 编辑