2020年8月26日

浮点问题

摘要： 浮点精度 bug： 小数计算有可能出现精度误差 例如： 0.1 + 0.2 = 0.30000000000000004 0.12 - 0.04 = 0.07999999999999999 0.1 * 0.7 = 0.06999999999999999 原因： 0.1 + 0.2 这个看似简单的问题， 阅读全文

posted @ 2020-08-26 16:18 执着的烙印 阅读(237) 评论(0) 推荐(0) 编辑

导航