关于float的低精度问题
摘要：
float作为单精度浮点，是存在较大精度损失的。这里的精度损失大小和阶数有关系，当阶数很大时，精度损失也很大。 double也有精度损失，但由于位数多，所以精度更高。 在处理有精度损失的数据时，要关注精度损失对计算结果的影响。 常见情况为 大数吞小数 的情况 即 大数 + 小数 时，小数的值 < 大 阅读全文
posted @ 2017-08-09 13:00 d神 阅读(347) 评论(0) 推荐(0) 编辑
