Python 浮点型精度问题


一、问题

print(0.1+0.2)
print(0.1+0.1+0.1-0.2)
print(0.1+0.1+0.1-0.3)

输出:

0.30000000000000004
0.10000000000000003
5.551115123125783e-17

出现这种精度问题:因为十进制与二进制的相互转换(计算机只认识二进制,将十进制转换为二进制,十进制0.1转换为二进制,是无限循环的,无法精确)。



二、解决办法

decimal.Decimal():十进制模块。

import decimal

a = decimal.Decimal('0.1')
b = decimal.Decimal('0.2')
print(a+b)
# 0.3

Fraction():分数模块。

from fractions import Fraction

print(10/3)
print(Fraction(10, 3))

输出:

3.3333333333333335
10/3


posted @   做梦当财神  阅读(383)  评论(0编辑  收藏  举报
编辑推荐:
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 【杭电多校比赛记录】2025“钉耙编程”中国大学生算法设计春季联赛(1)
点击右上角即可分享
微信分享提示