随笔 - 733  文章 - 2  评论 - 12  阅读 - 92万

关于浮点数计算不准的问题

复制代码
 1 #include <stdio.h>
 2 int main()
 3 {
 4     float x = 1.3;
 5     x = x - (int)x;
 6     int j = (int)(x*10);
 7     int i = (int)(x*10+0.00005);
 8     printf("j=%d \n",j);//j=2
 9     printf("i=%d \n",i);//i=2
10     return 0;
11 }
View Code
复制代码

上面的代码一个J=2,一个,i=3,这说明了使用浮点数不注意很容易出错,浮点数存在精度问题,因为浮点数不能准确的存储只能用最接近的,所以要么给其加一个精度(#define EPS (0.000001)),要么用double.

如float(4字节),double(8字节),(精度越来越高,占字节数越多)精度即使再高,也是有限的,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题.

 

posted on   杰瑞鼠  阅读(617)  评论(0编辑  收藏  举报
编辑推荐:
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· 三行代码完成国际化适配,妙~啊~
· .NET Core 中如何实现缓存的预热?
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

点击右上角即可分享
微信分享提示