消除404

  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

2023年11月8日

摘要: 为什么操作小数会出现误差? 浮点数值的最高进度是17位小数,但在进行运算的时候其精确度却远远不如整数;整数在进行运算的时候都会转成10进制; 而Java和JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差。待小数 阅读全文
posted @ 2023-11-08 13:27 消除404 阅读(861) 评论(0) 推荐(0) 编辑