摘要：
数值计算：计算机精度机器数由于计算机的储存空间有限，所以对于一个实数，有时候存储的只是它的近似值其中为尾数，是个有限位数二进制数，其大小为，整数称为阶码。当一个实数的位数过多，其便会被舍去一部分精度计算机浮点数在以32位表示单精度实数的计算机中，阶码用8位表示，位数用24位表示，其表示的范围为到，有6位的十进制精度值对于64位表示的双精度值，用11位表示阶码，用53位表示尾数，其表示的范围为到，... 阅读全文
摘要：
数值计算：二进制分数与十进制分数的转化 整数的十进制而二进制的转化比较简单，而且任意一个整数都可以用有限长位数的二进制数来表示，而分数就不一定了。因为整数的最小间隔是1，而分数则可以是无穷小的，所以有时候有限的十进制分数会转化为无限循环的二进制小数十进制分数转化为二进制分数二进制的分数可以表示为2的负次幂的和，即假设R是一个正的纯小数，其可以表示为 为了将转化为分数，我们将(1)两边都乘上2，... 阅读全文