[浮点型数据]数值精度&取值范围 完全不同的概念

先来看个小程序:

#include <stdio.h>
int main()
{
    double a = 3.14159265358979323846264338327950288419716939937510582097494459230781640628620899862803482534211706798214808651328230664709384460955058223172535940812848111745028410270193852110555964462294895493038196442881097566593344612847564823378678316527120190914564856692346034861045432664821339360726024914127372458700660631558817488152092096282925409171536436789259036001133053054882046652138414695194151160943305727036575959195309218611738193261179310511854807446237996274956735188575272489122793818301194912983367336244065664308602139494639522473719070217986094370277053921717629317675238467481846766940513200056812714526356082778577134275778960917363717872146844090122495343014654958537105079227968925892354201995611212902196086403441815981362977477130996051870721134999999837297804995105973173281609631859502445945534690830264252230825334468503526193118817101000313783875288658753320838142061717766914730359825349042875546873115956286388235378759375195778185778053217122680661300192787661119590921642019893809525720106548586327886593615338182796;
    //这里的a是千位的pi
  if (a == 3.14159265358979323846264338327950288419716939937510582097494459230781640628620899862803482534211706798214808651328230664709384460955058223172535940812848111745028410270193852110555964462294895493038196442881097566593344612847564823378678316527120190914564856692346034861045432664821339360726024914127372458700660631558817488152092096282925409171536436789259036001133053054882046652138414695194151160943305727036575959195309218611738193261179310511854807446237996274956735188575272489122793818301194912983367336244065664308602139494639522473719070217986094370277053921717629317675238467481846766940513200056812714526356082778577134275778960917363717872146844090122495343014654958537105079227968925892354201995611212902196086403441815981362977477130996051870721134999999837297804995105973173281609631859502445945534690830264252230825334468503526193118817101000313783875288658753320838142061717766914730359825349042875546873115956286388235378759375195778185778053217122680661300192787661119590921642019893809525720106548586327886593615338182796) {
        printf("相等\n");
    }
    else {
        printf("不相等\n");
    }
    printf("%.30f\n", a); //这里为了保证a输出小数点后30位
    return 0;
}

 

运行结果为:

相等
3.141592653589793115997963468544

 

显然a是可以取到千位pi,毕竟pi只是在3.14与3.15之间,这个数值当然在双精度浮点型的所能表示的范围内.所以不会出现错误. 但如果把"3."去掉,会显示1415926535897932384....超过double的取值范围

 

另一个问题是:如果我们仔细看运行结果3.141592653589793115997963468544

会发现只有加粗的16位数字是准确的,后面的部分都是不准确的.

所以对应我们知道的,double的有效数字一般有15-16位,其余部分都是不准确的.

 

同样的可以测试float:

#include <stdio.h>
int main()
{

    float a = 3.14159265;
    if (a == 3.14159265) {
         printf("相等\n");
    }
    else {
        printf("不相等\n");
    }
    printf("a = %.30f\n", a);
    return 0;
}

 

运行结果为

不相等
a = 3.141592741012573242187500000000

我们会发现,结果是不相等,虽然我们让a取了3.14159265,但是在计算机内部中却是运行结果里出现的a = 3.1415927410125732421875;

运行结果里a = 3.141592741012573242187500000000

只有加粗的7位是准确的,对应知道的:float类型的数据只有7-8位是有效的,其余是不准确的.

 

posted @ 2020-04-22 10:09  profesor  阅读(870)  评论(0编辑  收藏  举报