会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
rockmmm
博客园
首页
新随笔
联系
管理
订阅
2019年12月20日
关于数据精度的一点总结
摘要: 说到数据精度,不得不说的,就是数据长度。 这里聊了一下float这个类型,float占4个字节,共4*8=32位。下图是float在内存格式: 31:标志位,0表示正数,1表示负数。30-23:指数位,共8位。22-0:小数位,共23位。 示例:12345 = 0011 0000 0011 100
阅读全文
posted @ 2019-12-20 14:52 rockmmm
阅读(1873)
评论(0)
推荐(0)
编辑
公告