3.2执行精确的浮点数运算
问题
你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现。
解决方案
浮点数的一个普遍问题是它们并不能精确的表示十进制数。并且,即使是最简单的数学运算也会产生小的误差,比如:
a = 2.1
b = 4.2
c = a + b
print(c) # ->6.300000000000001
print(round(c, 2)) # ->6.3
这些错误是底层CPU和IEEE754标准通过自己的浮点单位去执行算术时的特征。由于Python的浮点数据类型使用底层表示存储数据,因此你没办法去避免这样的误差。
如果你想更加精确(并能容忍一定的性能损耗),你可以使用decimal模块:
from decimal import Decimal
a = Decimal('4.2')
b = Decimal('2.1')
print((a + b) == Decimal('6.3')) # _>True
初看起来,上面的代码好像有点奇怪,比如我呢用字符串来表示数字。然而,Decimal对象会像普通浮点数一样的工作(支持所有的常用数学运算)。如果你打印它们或者在字符串格式化函数中使用它们,看起来跟普通数字没有什么两样。
decimal模块的一个主要特征是允许你控制计算的每一方面,包括数字位数和四舍五入运算。为了这样做,你先得创建一个本地上下文并更改它的设置,比如:
from decimal import Decimal, localcontext
a = Decimal('1.3')
b = Decimal('1.7')
print(a / b) # ->0.7647058823529411764705882353
with localcontext() as ctx:
ctx.prec = 50
print(a/b) # ->0.76470588235294117647058823529411764705882352941176
with localcontext() as ctx:
ctx.prec = 3
print(a/b) # ->0.765
分类:
python3高级教程
标签:
python3高级教程学习
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构