会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Living and learning
博客园
首页
新随笔
联系
订阅
管理
2021年1月4日
浮点数如何存储与表示(精度问题)
摘要: 计算机中的数值表示 为特定数据选择其在计算机中的存储与表示方式时,主要考虑以下几个因素: 要表示的数的类型(小数、整数、实数或复数); 可能需要的数值范围; 数值的精确度要求; 数据存储和处理所需要的硬件代价; 定点数与浮点数 整数在计算机中一般使用整型处理,其在内存中的存储形式为二进制补码,有关整
阅读全文
posted @ 2021-01-04 11:29 箐茗
阅读(3063)
评论(0)
推荐(1)
编辑
公告