浮点数精度
硬件和win7系统都是64位的。
IDE环境:vs2008
--------------------------------
无论编译配置为win32,还是x64,都是一样的结果(如下)。
sizeof(float) == 4
sizeof(double) == 8
float 精度为 7位(即十进制有效数字)
double 精度为16位(即十进制有效数字)
double类型和long double类型完全一致,没有区别。
---------------------------------
在进行浮点运算时,精确是偶然的,误差是必然的。
如果做数值算法,唯一能做的就是误差不累计,其他的就不要奢望了。