2018年10月15日
关于python浮点数精度问题计算误差的原因分析
摘要： 在python中使用浮点数运算可能会出现如下问题 输出的结果是 原因如下： 出现上面的情况，主要还是因浮点数在计算机中实际是以二进制保存的，有些数不精确。比如说: 0.1是十进制，转化为二进制后它是个无限循环的数：0.00011001100110011001100110011001100110011 阅读全文
posted @ 2018-10-15 17:45 livalon1 阅读(3554) 评论(0) 推荐(0) 编辑