临
光
迎
欢

值比较

理想情况下1.68-0.68=1

但是在运用电脑计算时

 

这是因为电脑计算都是先十进制转二进制然后在进行比较的，十进制在转二进制时会出现无限小数的情况所以最终的结果会出现偏差

解决方案，

1、可先把值扩大10的幂数，然后取整再除10的幂数

2、直接保留几位小数进行四舍五入

 

posted @   马永猛  阅读(128)  评论(0)  编辑  收藏  举报
编辑推荐：
· Linux系列：如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列：如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列（二）：开始使用ML.NET
阅读排行：
· 无需6万激活码！GitHub神秘组织3小时极速复刻Manus，手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· Manus爆火，是硬核还是营销？
· 终于写完轮子一部分：tcp代理 了，记录一下
· 【杭电多校比赛记录】2025“钉耙编程”中国大学生算法设计春季联赛（1）
点击右上角即可分享
微信分享提示