值比较

理想情况下1.68-0.68=1

但是在运用电脑计算时

 

这是因为电脑计算都是先十进制转二进制然后在进行比较的,十进制在转二进制时会出现无限小数的情况所以最终的结果会出现偏差

解决方案,

1、可先把值扩大10的幂数,然后取整再除10的幂数

2、直接保留几位小数进行四舍五入

 

posted @ 2020-07-21 17:50  马永猛  阅读(127)  评论(0编辑  收藏  举报