会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Gavin's Tips
博客园
首页
新随笔
联系
订阅
管理
2018年6月9日
关于浮点数的死区问题
摘要: 大家都知道对于浮点数,计算机的存储是存在精度问题的,在做浮点数比较的时候,往往使用大于或者小于,很少使用等于号,但是在很多业务场景下,却很难避免相等的比较。由于浮点型的死区的存在,导致浮点数是无法使用等号进行比较的。浮点数存储的精度,就变成了“死区”。做不到是我们的技术问题,并不是用户的需求不合理。要解决死区的问题,首先要解决的就是精度问题。我们知道死区的存在,是因为浮点数在计算机中的存储是...
阅读全文
posted @ 2018-06-09 13:19 Gavin Lipeng Ma
阅读(179)
评论(0)
推荐(0)
编辑
公告