2017年12月7日
浮点数乘积的取整intval，以及高精度函数bcmath的使用
摘要： 线上发现个bug，浮点数乘积以后取整，得到的数不符预期。还记得上次踩过的坑是数据库类型转换的一个问题。这个也相当于类型转换了..尴尬 浮点数计算的精度一定要谨慎。 例子如下： 究其原因，就是浮点数的二进制表示。当遇到循环的情况，就会出现这种问题。比如 18359.1 * 100在二进制运算结果后，转 阅读全文
posted @ 2017-12-07 00:49 根号五 阅读(1024) 评论(0) 推荐(0) 编辑
点击右上角即可分享
微信分享提示