2021年5月10日
关于浮点数计算时的精度问题 0.1+0.2不等于0.3
摘要： “未经省察的人生没有价值。” 问题 上个月同事遇到个 Bug，两个看起来应该相等的整型，对比结果却是 false。最后发现，在一连串算数过程中，混入了一个浮点型，于是误差就开始累积了。1.0000000000000001 不等于1 。0.1 + 0.2 不等于 0.3。 分析 项目要尽量避免使用浮点 阅读全文
posted @ 2021-05-10 01:13 尼克多摩雄 阅读(490) 评论(0) 推荐(0) 编辑