android开发36.66浮点数计算精度问题

  • 在开发中金额计算是常见的,今天偶尔发现一个挺奇怪的浮点数计算精度问题

    36.66 x 100 取整后得到 3666 ???

    我也理所当然地认为是3666,然后就直接使用Int接收结果,然而结果是3665 。

    然后发现36.66 x 100的结果是3665.99999999995

    使用Int接收当然是3665了。

  • 知道原因是浮点数计算精度问题了,使用四舍五入即可得到正确结果。即用roundToInt方法而不是toInt方法转化接收结果(kotlin语法)

  • 好奇的是,试了其他的比如16.66,26.66等.66数字 乘以100直接toInt转为Int后结果是预期正确的,唯有36.66乘以100直接toInt得到3665。神奇的计算精度问题,具体原因可能要深入二进制世界去了。。。

posted @ 2021-02-19 09:47  yongfengnice  阅读(403)  评论(0编辑  收藏  举报