2013年3月24日
精度损失的研究
摘要： 高位数据赋值低位，比如 int型数据赋值 char型数据，既16位赋值8位，取其低八位赋值，高位数据丢失。计算机是用二进制表示数的，存储的位长有限，只能截掉，所以误差就产生了。所以在一些要求四舍五入严格精度的场合，最好把浮点数转换为整数来计算，否则可能在某些特殊的情况下产生意外的计算错误 阅读全文
posted @ 2013-03-24 17:55 丁洋 阅读(167) 评论(0) 推荐(0) 编辑