精度损失的研究

高位数据赋值低位,比如 int型数据赋值 char型数据,既16位赋值8位,取其低八位赋值,高位数据丢失。

计算机是用二进制表示数的,存储的位长有限,只能截掉, 
所以误差就产生了。 

所以在一些要求四舍五入严格精度的场合,最好把浮点数转换为 
整数来计算,否则可能在某些特殊的情况下产生意外的计算错误

posted @ 2013-03-24 17:55  丁洋  阅读(167)  评论(0编辑  收藏  举报