摘要: 线上发现个bug,浮点数乘积以后取整,得到的数不符预期。还记得上次踩过的坑是数据库类型转换的一个问题。这个也相当于类型转换了..尴尬 浮点数计算的精度一定要谨慎。 例子如下: 究其原因,就是浮点数的二进制表示。当遇到循环的情况,就会出现这种问题。比如 18359.1 * 100在二进制运算结果后,转 阅读全文
posted @ 2017-12-07 00:49 根号五 阅读(1002) 评论(0) 推荐(0) 编辑