可可西

浮点数精度

硬件和win7系统都是64位的。

IDE环境:vs2008

--------------------------------

无论编译配置为win32,还是x64,都是一样的结果(如下)。

 

sizeof(float)    == 4

sizeof(double) == 8

 

float    精度为  7位(即十进制有效数字)

double 精度为16位(即十进制有效数字)

 

double类型和long double类型完全一致,没有区别。

---------------------------------

 

在进行浮点运算时,精确是偶然的,误差是必然的。

如果做数值算法,唯一能做的就是误差不累计,其他的就不要奢望了。

posted on 2010-11-30 19:08  可可西  阅读(403)  评论(0编辑  收藏  举报

导航