2019年10月27日
浮点数精度问题透析:小数计算不准确+浮点数精度丢失根源
摘要： 浮点数精度问题透析:小数计算不准确+浮点数精度丢失根源 无论在java python javaScript里面都存在 1+ 2!== 3 问题，这个问题的产生根源在于计算存储数字是二进制，对无限循环小数和无理数采用双精度64位double浮点数_float为32位,即52位小数+11位指数+1位符号 阅读全文
posted @ 2019-10-27 18:29 CodingIsBeautiful 阅读(2387) 评论(1) 推荐(0) 编辑