python浮点数精度
如果想同时得到商和余数,可以用这个方法:
>>> divmod(10,3)
(3, 1)
因为浮点数精度的问题,Python还存在一些计算方面的小问题,例如:
>>> 0.1+0.1+0.1-0.3 5.551115123125783e-17
什么?不是应该等于0吗?Python居然还有这么不为人知的一面?
要解决这个问题,可以导入decimal模块:
>>> from decimal import Decimal >>> Decimal('0.1')+Decimal('0.1')+Decimal('0.1')-Decimal('0.3') Decimal('0.0') >>> Decimal('0.1') / Decimal('0.3') Decimal('0.3333333333333333333333333333') >>> from decimal import getcontext >>> getcontext().prec = 4 #设置全局精度 >>> Decimal('0.1') / Decimal('0.3') Decimal('0.3333')
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· Docker 太简单,K8s 太复杂?w7panel 让容器管理更轻松!