会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
不以为然的豆瓣
博客园
首页
新随笔
联系
订阅
管理
2018年6月10日
table maker's delimma
摘要: table maker's delimma是计算机浮点数精度的一个问题。 浮点数的表示方式 计算机能表示的数字都是有理数,所有的有理数都可以归结为下面的模式:1.@@@ × 2#### 其中,@@@ 和 ####都表示0或1,上式的意思是任何一个有理数总可以表示为1点几 乘以 2的 ####次方。注
阅读全文
posted @ 2018-06-10 08:27 不以为然的豆瓣
阅读(302)
评论(0)
推荐(0)
编辑
公告