会员
周边
捐助
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
临
光
迎
欢
博客园
首页
新随笔
联系
订阅
管理
2020年7月21日
值比较
摘要: 理想情况下1.68-0.68=1 但是在运用电脑计算时 这是因为电脑计算都是先十进制转二进制然后在进行比较的,十进制在转二进制时会出现无限小数的情况所以最终的结果会出现偏差 解决方案, 1、可先把值扩大10的幂数,然后取整再除10的幂数 2、直接保留几位小数进行四舍五入
阅读全文
posted @ 2020-07-21 17:50 马永猛
阅读(127)
评论(0)
推荐(0)
编辑
公告