2015年12月20日
为何很大的浮点大数加一个很小的数计算结果不是预期
摘要： 通常浮点数被表示成N=S*rjS称为尾数，可正可负，j称为阶码可正可负。r是基数，在计算机中取以2的倍数。计算机中为了提高精度，进行规格化操作：即假设N=11.0101 则规格化表示为N=0.110101*210表示，因为该规格化使得浮点数的表示精度最高。机器中浮点数由两部分组成：阶码和尾数。基数为... 阅读全文
posted @ 2015-12-20 00:16 CY_K_YC 阅读(1935) 评论(0) 推荐(0) 编辑