会员
周边
捐助
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
剑伟
博客园
首页
新随笔
联系
订阅
管理
2021年2月24日
计算机浮点计算异常
摘要: 我们都知道,1.2-1.0=0.2,这是小学的小数点运算就学过了的 然而,公认比人脑计算能力更强的计算机在这个人人都会的小数计算上却总是‘计算错误’: 这却是为什么呢? 实际上,这是由计算机内部的存储限制所决定的。与现实世界已经习以为常的十进制计算不同,计算机内部往往是以二进制,即以0和1为基本单元
阅读全文
posted @ 2021-02-24 11:38 剑伟
阅读(345)
评论(0)
推荐(0)
编辑
公告