会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
漫卷云舒
博客园
首页
新随笔
联系
订阅
管理
2020年8月30日
Python 浮点数类型的精度问题
摘要: 精度损失 在 Python 中,浮点数表示的精度有限,当我们对大数进行运算时,如果所得的结果是以浮点数表示的,就需要考虑到结果的精度损失问题 >>> a = 1234567890987654321 >>> a / 3 4.115226303292181e+17 所以如果确定所有的计算过程都只需要用到
阅读全文
posted @ 2020-08-30 15:35 漫卷云舒
阅读(488)
评论(1)
推荐(0)
编辑
公告