小数计算精度丢失问题之前菜——了解计算机二进制
二进制表示法。。。。
这是也是基础知识啦:
别急我们一点一点的讲解。正整数转二进制,负整数转二进制,小数转二进制
正整数转二进制: 正整数转成二进制。要点一定一定要记住哈:除二取余,然后倒序排列,高位补零。
21 /2 -------------------------------余 1
10/2 -------------------------------余 0
5/2 ------------------------------- 余 1
2/2 --------------------------------余 0
1/2 ---------------------------------余 1
记住,到着排序 10101 ,验证下转成十进制: 1×2的4次方+1×2的2次方+1×2的0次方=16+4+1=21。正确。
计算机一般是8 位 16位 32位 64 位的,所以不够位高位补零。8位表示法:00010101
负整数转二进制:先是将对应的正整数转换成二进制后,对二进制取反,然后对结果再加一。
取 -21 演示,看口诀,
21 的二进制表示为: 10101
取反: 01010
加一 : 01011
小数转换为二进制的方法:对小数点以后的数乘以2,有一个结果吧,取结果的整数部分(不是1就是0喽),然后再用小数部分再乘以2,再取结果的整数部分……以此类推,直到小数部分为0或者位数已经够了就OK了。
演示: 0.125 ×2=0.25 .......................0
0.25×2=0.5.............................0
0.5×2=1.0................................1
即 0.125的二进制表示为小数部分为0.001
记住,乘到小数为0。排序:正序。
验证: 0.001 0×2的0次方+0×2的-1次方+0×2的-2次方+0×2的-3次方=1/8=0.125.正确。
现在来说明0.1转二进制不能表示的原因啦:
0.1×2=0.2 .....................0
0.2×2=0.4 ......................0
0.4×2=0.8 .....................0
0.8×2=1.6.......................1
0.6×2=1.2.......................1
0.2×2=0.4.......................0
.....
是无限循环的。所以。。。。你懂的!
for(double i=0;i!=10;i+=0.1)
{
}
有可能是死循环。用浮点数循环需要注意啦。