C语言-二进制不能精确的表示浮点数
STM32学习笔记-二进制不能精确的表示浮点数
问题:二进制不能精确的表示部分浮点数,所以浮点数应该尽量避免等式和不等式的比较
原因:
根据IEEE可以学到浮点数double在内存中占4个字节其中:
例如:https://blog.csdn.net/qwertyuoi123456/article/details/53379068
(此例子中应注意小数部分应该是逆序取)
但是0.1在算尾数时候是一直乘以2乘不尽的。但是4字节的空间有限,所以只能是无限接近。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 单元测试从入门到精通
· 上周热点回顾(3.3-3.9)
· winform 绘制太阳,地球,月球 运作规律