python 高精度浮点数计算模块decimal

 

Python decimal

1、简单使用:保留三位小数

>>>Decimal('1.41421356').quantize(Decimal('1.000'))
Decimal('1.414')

2、简单使用:保留两位小数

>>> from decimal import Decimal
>>> Decimal('0.125').quantize(Decimal('0.00'))
Decimal('0.12')
>>> Decimal('0.375').quantize(Decimal('0.00'))
Decimal('0.38')

注意:为什么0.125不是四舍五入。

3、查看默认进位方式:默认进位方式为奇进偶舍

>>> from decimal import getcontext
>>> getcontext().rounding
'ROUND_HALF_EVEN'

4、设置进位方式为四舍五入

>>> from decimal import Decimal, ROUND_HALF_UP
>>> Decimal('0.375').quantize(Decimal('0.00'), rounding=ROUND_HALF_UP)
Decimal('0.38')
>>> Decimal('0.125').quantize(Decimal('0.00'), rounding=ROUND_HALF_UP)
Decimal('0.13')

最后注意:可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。

复制代码
from decimal import Decimal,ROUND_HALF_UP

a =11.245
origin_num = Decimal(str(a))
answer_num1 = origin_num.quantize(Decimal('0.00'), rounding=ROUND_HALF_UP)
print(answer_num1)

origin_num1 =Decimal(a)
answer_num2 = origin_num1.quantize(Decimal('0.00'), rounding=ROUND_HALF_UP)
print(answer_num2)
复制代码

输出:

11.25
11.24

posted @   -零  阅读(3426)  评论(0编辑  收藏  举报
编辑推荐:
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· 三行代码完成国际化适配,妙~啊~
· .NET Core 中如何实现缓存的预热?
点击右上角即可分享
微信分享提示