Python 标准类库-数字和数学模块之decimal使用简介

标准类库-数字和数学模块之decimal使用简介

by:授客 QQ1033553122

例子

>>>from decimal import *

>>>getcontext()

Context(prec=28, rounding=ROUND_HALF_EVEN, Emin=-999999, Emax=999999, capitals=1, clamp=0, flags=[], traps=[InvalidOperation, DivisionByZero, Overflow])

 

>>>Decimal('5')/3

Decimal('1.666666666666666666666666667')

 

>>>getcontext().prec = 6 # 设置精度,即最大小数位数

 

>>>Decimal('5')/3

Decimal('1.66667')

>>>getcontext().prec = 2

>>>Decimal('5')/3

Decimal('1.7')

>>>Decimal('5')/Decimal(3)

Decimal('1.7')

 

>>>Decimal('3.14')

Decimal('3.14')

 

>>>Decimal('3.14') * Decimal(0.5)

Decimal('1.570')

 

>>>Decimal('3.1415926535')

Decimal('3.1415926535')

 

>>>Decimal('NaN')

Decimal('NaN')

 

>>>Decimal('-Infinity')

Decimal('-Infinity')

 

结论:当且仅当“计算结果”小数位数超过getcontext()设置的精度时,才会舍去超过精度部分的小数位数

posted @   授客  阅读(898)  评论(0编辑  收藏  举报
编辑推荐:
· [.NET]调用本地 Deepseek 模型
· 一个费力不讨好的项目,让我损失了近一半的绩效!
· .NET Core 托管堆内存泄露/CPU异常的常见思路
· PostgreSQL 和 SQL Server 在统计信息维护中的关键差异
· C++代码改造为UTF-8编码问题的总结
阅读排行:
· 【.NET】调用本地 Deepseek 模型
· CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· Plotly.NET 一个为 .NET 打造的强大开源交互式图表库
点击右上角即可分享
微信分享提示