08 2023 档案

数字迷惑行为

摘要：最近做处理金额的业务比较多，所以最近遇到两个关于数字的坑，记下来以便以后不犯这种错误 1.0.57*100=？问题代码：相信大多数人阅读上面这段代码都认为结果是57，但是运行结果却是56 问题原因：计算机存储数字采用的是二进制，0.57在计算机中存储的二进制再转化成十进制的值是0.56999… 阅读全文

posted @ 2023-08-04 23:18 dianx 阅读(20) 评论(0) 推荐(0) 编辑