接单日记(一):理解浮点数运算的误差
接单日记(一):理解浮点数运算的误差
此为一个实验报告,故遵守实验报告的格式。
一、 实验目的
- 理解python中的浮点数计算存在的一个误差问题
- 理解这种误差对程序带来的危害
- 理解如何解决程序产生的误差
二、 实验内容
用Python程序判断0.3 – 0.2的值是否为0.1,如果不是0.1,那么,如何让这个值是0.1呢?
三、 程序及结果
from decimal import Decimal # 进行误差的判断 value = 0.3 - 0.2 print(value == 0.1) # 输出:False # 消除误差的方法:使用 Decimal 库进行精确运算 value_new = float(Decimal("0.3") - Decimal("0.2")) print(value_new == 0.1) # 输出:True
本文来自博客园,作者:Kenny_LZK,转载请注明原文链接:https://www.cnblogs.com/liuzhongkun/p/17355599.html
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek “源神”启动!「GitHub 热点速览」
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· DeepSeek R1 简明指南:架构、训练、本地部署及硬件要求
· NetPad:一个.NET开源、跨平台的C#编辑器
2022-04-26 爬虫之验证码处理