浮点数精度
摘要:
硬件和win7系统都是64位的。IDE环境:vs2008--------------------------------无论编译配置为win32,还是x64,都是一样的结果(如下)。sizeof(float) == 4sizeof(double) == 8float 精度为 7位(即十进制有效数字)double 精度为16位(即十进制有效数字)double类型和long double类型完全一... 阅读全文
posted @ 2010-11-30 19:08 可可西 阅读(397) 评论(0) 推荐(0) 编辑