铁王

导航

2011年11月23日 #

浮点数与IEEE 754

摘要: 浮点数与IEEE 754浮点数1.什么是浮点数在计算机系统的发展过程中,曾经提出过多种方法表达实数。典型的比如相对于浮点数的定点数(Fixed Point Number)。在这种表达方式中,小数点固定的位于实数所有数字中间的某个位置。货币的表达就可以使用这种方式,比如99.00或者00.99可以用于表达具有四位精度(Precision),小数点后有两位的货币值。由于小数点位置固定,所以可以直接用四位数值来表达相应的数值。SQL中的NUMBER数据类型就是利用定点数来定义的。还有一种提议的表达方式为有理数表达方式,即用两个整数的比值来表达实数。定点数表达法的缺点在于其形式过于僵硬,固定的小数点位 阅读全文

posted @ 2011-11-23 20:48 铁王 阅读(753) 评论(0) 推荐(0) 编辑

2的补码

摘要: 考虑以2的补码形式来表示一个n位整数A。若A是正的,则符号位”an-1”是0,其余位表示此数的幅值,因此有: 对于A≥0数零被认为是正的,因此表示为符号位值为0和所有幅值位都为0.可见, 正整数可表示的范围是由0(所有幅值全为0)到2n-1-1(所有幅值位全为1)。再大的数将需要更多位。对于一个负数A(A<0),其符号位an-1是1.其余n-1位能取2n-1个值中的某个值。于是,负整数可表示的范围是-1到-2n-1。对于n-1位值与负整数值的对应,我们希望以这样一种方式来指派负整数的位值,它能使算术运算能直截了当地处理。在无符号整数表示中,要从n位值的表示计算得到整数的值,是由各位乘以位 阅读全文

posted @ 2011-11-23 20:33 铁王 阅读(3031) 评论(0) 推荐(0) 编辑