浮点数计算 0.1+0.2 ≠ 0.3
相关网站:
1.原因
科学计数法的二进制版本,类似于十进制中表示 1/3
是无限循环小数,0.1 在二进制中是无限循环小数,无法精确表示
为什么使用浮点数,其中关键一点就是计算速度快且占用内存空间小。
2.如何注意和规避
对于浮点数不能直接判断是否相等,而应该以它们的差值小于某个小值作为判断:
0.1 + 0.2 == 0.3 # 判断方法是不可靠的
# 推荐方法
a = 0.1 + 0.2
b = 0.3
abs(a - b) < 1e-6
可以使用 decimal
(十进制定点数),表示任意精度的十进制数。
from decimal import Decimal
Decimal('0.1')+Decimal('0.2')
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 【.NET】调用本地 Deepseek 模型
· CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· Plotly.NET 一个为 .NET 打造的强大开源交互式图表库