会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
livalon
博客园
首页
新随笔
联系
订阅
管理
2018年10月15日
关于python浮点数精度问题计算误差的原因分析
摘要: 在python中使用浮点数运算可能会出现如下问题 输出的结果是 原因如下: 出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:0.00011001100110011001100110011001100110011
阅读全文
posted @ 2018-10-15 17:45 livalon1
阅读(3554)
评论(0)
推荐(0)
编辑
公告