C/C++中浮点数输出精度的问题

本文使用C++语言书写,对于C的小伙伴们,如果编译不通过的话……就说明C里面没有这个内容,可以跳过

通常来说,我们书写程序主要只用整形变量

(signed/unsigned) (long/long long/short) int a;

但是有时候,我们又需要一些小数运算。
所以就会出现

float b;
double c;
long double d;

至于具体使用方法……自行度娘。这里需要注意一下浮点数是有精度的
计算机中的数据是用二进制存储的。
十进制小数怎么转换为二进制小数呢?
举个栗子

\[(0.5)_{10} = (0.1)_2 \\ (0.25)_{10} = {0.01}_2 \]

我们是怎么知道的呢?
推理一下,

\[(0.5)_{10} \times (2)_{10} = (1)_{10} (0.5)_{10} = (1)_{10} \div (2)_{10} = (1)_2 \div (10)_2 = (0.1)_2 \]

然后再根据以下度娘的方法,对于十进制小数,每次乘以2,然后取整数位(0/1),就可以得到二进制下的小数
比如

但是我们也要知道,并不是所有小数乘以2的有限次幂就能得到整数的
比如\((0.8)_{10}\),如果小伙伴们自行转换一下,就会发现\((0.8)_{10} = (0.110011001100\dots)_2\)
是不是无限循环?
但是计算机也不能无限表示啊
他就只能截断到某一位,这就会产生精度误差
比如,\((0.8)_{10}\)在计算机中存储的是\((0.110011001100)_2\),当然实际上他存储的位数更多,所以误差更小
那么\((0.110011001100)_2\)转换回十进制就是(好难算啊)

\[(0.110011001100)_2 = (1 \times 2^{-1} + 1 \times 2^{-2} + 0 \times 2^{-3} + 0 \times 2^{-4} + \dots)_{10} = (0.79980468750000000000)_{10} \]

这个误差就是这样产生的。但是一般输出的时候由于误差太小,都会给你四舍五入。
这就是为什么很多题都是叫你保留三位小数,因为float三位之后就会有误差,对于不同的方法输出的结果不同。


那么对于浮点数的输出格式,也很简单啦
我们可以

printf("%.3f", x);

这里.3其实就是0.3, 表示。。。表示

也可以

cout << fixed << setprecision(3);
cout << x << endl;

这里fixed是强制小数输出,否则的话……你可能会看到3.42344856131e-31这样的结果,其实他是精度误差下的0
setprecision(int)就是设置从此以后cout输出的数据都带有int位小数位,不足补0

posted @ 2021-03-17 13:25  IdanSuce  阅读(1156)  评论(0编辑  收藏  举报