会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Loading
烟草的香味
首页
联系
订阅
管理
2019年10月27日
浮点数的运算精度丢失
摘要: 引出 打开Python编译器,输入 , 期待的结果是0.3,但是输出为: 0.30000000000000004 有点小尴尬,这是为什么呢? 解惑 其实这设计到了计算机的浮点数存储是以二进制进行存储的。 说二进制不太形象,换成我们最长使用的十进制和分数 1/5,使用小数表示为0.2,但是1/3,使用
阅读全文
posted @ 2019-10-27 17:26 烟草的香味
阅读(844)
评论(0)
推荐(0)
编辑
公告