3.2执行精确的浮点数运算

问题

​ 你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现。

解决方案

​ 浮点数的一个普遍问题是它们并不能精确的表示十进制数。并且,即使是最简单的数学运算也会产生小的误差,比如:

a = 2.1
b = 4.2
c = a + b
print(c)  # ->6.300000000000001
print(round(c, 2))  # ->6.3

这些错误是底层CPU和IEEE754标准通过自己的浮点单位去执行算术时的特征。由于Python的浮点数据类型使用底层表示存储数据,因此你没办法去避免这样的误差。

​ 如果你想更加精确(并能容忍一定的性能损耗),你可以使用decimal模块:

from decimal import Decimal

a = Decimal('4.2')
b = Decimal('2.1')
print((a + b) == Decimal('6.3'))  # _>True

​ 初看起来,上面的代码好像有点奇怪,比如我呢用字符串来表示数字。然而,Decimal对象会像普通浮点数一样的工作(支持所有的常用数学运算)。如果你打印它们或者在字符串格式化函数中使用它们,看起来跟普通数字没有什么两样。

​ decimal模块的一个主要特征是允许你控制计算的每一方面,包括数字位数和四舍五入运算。为了这样做,你先得创建一个本地上下文并更改它的设置,比如:

from decimal import Decimal, localcontext

a = Decimal('1.3')
b = Decimal('1.7')
print(a / b)  # ->0.7647058823529411764705882353

with localcontext() as ctx:
    ctx.prec = 50
    print(a/b)  # ->0.76470588235294117647058823529411764705882352941176
with localcontext() as ctx:
    ctx.prec = 3
    print(a/b)  # ->0.765
posted @   qiupeng  阅读(45)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构
点击右上角即可分享
微信分享提示