关于float的低精度问题
摘要:
float作为单精度浮点,是存在较大精度损失的。这里的精度损失大小和阶数有关系,当阶数很大时,精度损失也很大。 double也有精度损失,但由于位数多,所以精度更高。 在处理有精度损失的数据时,要关注精度损失对计算结果的影响。 常见情况为 大数吞小数 的情况 即 大数 + 小数 时,小数的值 < 大 阅读全文
posted @ 2017-08-09 13:00 d神 阅读(347) 评论(0) 推荐(0) 编辑