关于浮点数计算不准的问题

1 #include <stdio.h> 2 int main() 3 { 4 float x = 1.3; 5 x = x - (int)x; 6 int j = (int)(x*10); 7 int i = (int)(x*10+0.00005); 8 printf("j=%d \n",j);//j=2 9 printf("i=%d \n",i);//i=2 10 return 0; 11 }
上面的代码一个J=2,一个,i=3,这说明了使用浮点数不注意很容易出错,浮点数存在精度问题,因为浮点数不能准确的存储只能用最接近的,所以要么给其加一个精度(#define EPS (0.000001)),要么用double.
如float(4字节),double(8字节),(精度越来越高,占字节数越多)精度即使再高,也是有限的,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题.
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· 三行代码完成国际化适配,妙~啊~
· .NET Core 中如何实现缓存的预热?