随笔 - 29, 文章 - 0, 评论 - 6, 阅读 - 81779
  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

C#中float, double的精度问题

Posted on   Harry Huang  阅读(9760)  评论(0编辑  收藏  举报

在工作中我发现了一个C#浮点数的精度问题,以下的程序运行结果并未得到我预期的结果:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
namespace FloatTest
{
    class Program
    {
        static void Main(string[] args)
        {
            double a = 0.0001;
            float b = 0.1F;
 
            int c = (int)((a * 1000) / b);
 
            Console.WriteLine("c = {0}", c);
 
            Console.ReadLine();
        }
    }
}

我期望的结果是得到1,结果程序返回的结果为c = 0

 

这让我想到了可能是因为浮点数采用IEEE754的表示方法,在运算中b会转换成double,可能是在转换中算法的问题导致精度丢失,为了证实该问题,我做了下面的实验:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
namespace FloatTest
{
    class Program
    {
        static void Main(string[] args)
        {
            double a = 0.0001;
            float b = 0.1F;
 
            int c = (int)((a * 1000) / b);
 
            Console.WriteLine("a = {0}", a);
            Console.WriteLine("b = {0}", Convert.ToDouble(b));
            Console.WriteLine("c = {0}", c);
 
            Console.ReadLine();
        }
    }
}

这次果然得到了意料中的结果:float在转成double的时候出现了精度的丢失问题

a = 0.0001
b = 0.100000001490116
c = 0

 

如果是在类型转换的时候导致的精度丢失,那我把b改为double应该可以解决这个问题:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
namespace FloatTest
{
    class Program
    {
        static void Main(string[] args)
        {
            double a = 0.0001;
            double b = 0.1;
 
            int c = (int)((a * 1000) / b);
 
            Console.WriteLine("a = {0}", a);
            Console.WriteLine("b = {0}", Convert.ToDouble(b));
            Console.WriteLine("c = {0}", c);
 
            Console.ReadLine();
        }
    }
}

这次却是得到我们期望的结果:

a = 0.0001
b = 0.1
c = 1

 

因此,在程序中,我们应该尽量的避免浮点数类型转换导致的精度丢失。

我在GCC上做了同样的实验,结果不管哪种方式得到的结果都是正确的,我只能说可能是double Convert.ToDouble(float)的实现的原因导致的。

编辑推荐:
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
阅读排行:
· winform 绘制太阳,地球,月球 运作规律
· AI与.NET技术实操系列(五):向量存储与相似性搜索在 .NET 中的实现
· 超详细:普通电脑也行Windows部署deepseek R1训练数据并当服务器共享给他人
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 上周热点回顾(3.3-3.9)
点击右上角即可分享
微信分享提示