Python 标准类库-数字和数学模块之decimal使用简介
标准类库-数字和数学模块之decimal使用简介
by:授客 QQ:1033553122
例子
>>>from decimal import *
>>>getcontext()
Context(prec=28, rounding=ROUND_HALF_EVEN, Emin=-999999, Emax=999999, capitals=1, clamp=0, flags=[], traps=[InvalidOperation, DivisionByZero, Overflow])
>>>Decimal('5')/3
Decimal('1.666666666666666666666666667')
>>>getcontext().prec = 6 # 设置精度,即最大小数位数
>>>Decimal('5')/3
Decimal('1.66667')
>>>getcontext().prec = 2
>>>Decimal('5')/3
Decimal('1.7')
>>>Decimal('5')/Decimal(3)
Decimal('1.7')
>>>Decimal('3.14')
Decimal('3.14')
>>>Decimal('3.14') * Decimal(0.5)
Decimal('1.570')
>>>Decimal('3.1415926535')
Decimal('3.1415926535')
>>>Decimal('NaN')
Decimal('NaN')
>>>Decimal('-Infinity')
Decimal('-Infinity')
结论:当且仅当“计算结果”小数位数超过getcontext()设置的精度时,才会舍去超过精度部分的小数位数
作者:授客
微信/QQ:1033553122
全国软件测试QQ交流群:7156436
Git地址:https://gitee.com/ishouke
友情提示:限于时间仓促,文中可能存在错误,欢迎指正、评论!
作者五行缺钱,如果觉得文章对您有帮助,请扫描下边的二维码打赏作者,金额随意,您的支持将是我继续创作的源动力,打赏后如有任何疑问,请联系我!!!
微信打赏
支付宝打赏 全国软件测试交流QQ群
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· [.NET]调用本地 Deepseek 模型
· 一个费力不讨好的项目,让我损失了近一半的绩效!
· .NET Core 托管堆内存泄露/CPU异常的常见思路
· PostgreSQL 和 SQL Server 在统计信息维护中的关键差异
· C++代码改造为UTF-8编码问题的总结
· 【.NET】调用本地 Deepseek 模型
· CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· Plotly.NET 一个为 .NET 打造的强大开源交互式图表库