【只争朝夕】

  博客园 :: 首页 :: 博问 :: 闪存 :: 新随笔 :: 联系 :: 订阅 订阅 :: 管理 ::

  下面这个代码:

return scale < 1 / 10000 ? 1 / 10000 : scale;

当scale=0.0000005时,居然返回的还是0.0000005,而不是0.0001 !

原来呀,1/10000=0

应该是

return scale < 1.0 / 10000 ? 1.0 / 10000 : scale;

才对。

又忽略了int和double的除法的区别!

posted on 2019-03-20 08:59  【只争朝夕】  阅读(137)  评论(0编辑  收藏  举报