可可西

2010年11月30日 #

浮点数精度

摘要: 硬件和win7系统都是64位的。IDE环境:vs2008--------------------------------无论编译配置为win32,还是x64,都是一样的结果(如下)。sizeof(float) == 4sizeof(double) == 8float 精度为 7位(即十进制有效数字)double 精度为16位(即十进制有效数字)double类型和long double类型完全一... 阅读全文

posted @ 2010-11-30 19:08 可可西 阅读(403) 评论(0) 推荐(0) 编辑

导航