会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
廊虞
一如既往
个人网站
博客园
首页
新随笔
联系
管理
2023年4月11日
为什么计算机对浮点型数字计算存在误差
摘要: # 为什么计算机对浮点型数字计算存在误差? 我们输入的十进制小数在计算机中都是以二进制进行存储。比如: 我们把0.25转换为二进制 0.25 * 2 = 0.5 取0 0.50 * 2 = 1.0 取1 所以十进制0.25的二进制应当为0.01 但是我们把0.3转换为二进制存储 0.3 * 2 =
阅读全文
posted @ 2023-04-11 23:32 廊虞
阅读(421)
评论(1)
推荐(1)
编辑