C# 多线程小试牛刀

2019年6月28日更新

采用预先生成随机数 + bitarray 来判断重复 + 数组分段插入隔离进行插入 1000w的数据的不重复随机数插入可以压缩到 3 s 内。

前言

昨天在上班时浏览博问，发现了一个问题，虽然自己在 C# 多线程上没有怎么尝试过，看了几遍 CLR 中关于线程的概念和讲解（后面三章）。也想拿来实践实践。问题定义是这样的：

对于多线程不是很懂，面试的时候遇到一个多线程的题，不会做，分享出来，懂的大佬指点一下，谢谢

建一个winform窗体，在窗体中放上一个开始按钮，一个停止按钮，一个文本框，在窗体中声明一个List类型的属性，点击开始按钮后开启10个线程，所有线程同时不间断的给List集合中添加1-10000之间的随机数，要求添加List集合中的数字不能重复，并且实时在文本框中显示集合的长度，当集合List的长度等于1000时自动停止所有线程，如果中途点击停止按钮也停止所有线程，点击开始又继续执行。

我其实没有完全实现了这位博问中提问的同学的需求，具体问题的来源可查看该地址问题来源

开始尝试

刚拿到这个需求的时候，映入我脑海里的是 Task, Threadpool，Concurrent，和 Lock 等概念，接下来就是组装和编码的过程了，首先理一理头绪，

生成随机数
插入到 List 中，且不能重复
开启多个线程同时插入。

首先是生成随机数，使用 System.Random 类来生成伪随机数（这个其实性能和效率贼低，后面再叙述）

private int GenerateInt32Num()
{
    var num = random.Next(0, TOTAL_NUM);
    return num;
}

然后是插入到 List<Int32> 中的代码，判断是否已经达到了我们需要的 List 长度，如果已满足，则退出程序。

private void AddToList(int num)
{
    if (numList.Count == ENDNUM)
    {
        return;
    }

    numList.Add(num);
}

如果是个单线程的，按照上面那样 while(true) 然后一直插入即可，可这个是个多线程，那么需要如何处理呢？

我思考了一下，想到了之前在 CLR 中学到的可以用 CancellationTokenSource 中的 Cancel 来通知 Task 来取消操作。所以现在的逻辑是，用线程池来实现多线程。然后传入 CancellationTokenSource.Token 来取消任务。

最后用 Task.WhanAny() 来获取到第一个到达此 Task 的 ID。

首先是建立 Task[] 的数组

internal void DoTheCompeteSecond()
{
    Task[] tasks = new Task[10];

    for (int i = 0; i < 10; ++i)
    {
        int num = i;
        tasks[i] = Task.Factory.StartNew(() => AddNumToList(num, cts), cts.Token);
    }

    Task.WaitAny(tasks);
}

然后 AddNumToList 方法是这样定义的，

private void AddNumToList(object state, CancellationTokenSource cts)
{-
    Console.WriteLine("This is the {0} thread,Current ThreadId={1}",
                      state,
                      Thread.CurrentThread.ManagedThreadId);

    while (!cts.Token.IsCancellationRequested)
    {
        if (GetTheListCount() == ENDNUM)
        {
            cts.Cancel();
            Console.WriteLine("Current Thread Id={0},Current Count={1}",
                              Thread.CurrentThread.ManagedThreadId,
                              GetTheListCount());

            break;
        }
        var insertNum = GenerateInt32Num();
        if (numList.Contains(insertNum))
        {
            insertNum = GenerateInt32Num();
        }

        AddToList(insertNum);
    }
}

看起来是没有什么问题的，运行了一下。得到了如下结果，

这应该是昨晚运行时得到的数据，当时也没有多想，就贴了上去，回答了那位提问同学的问题。但是心里有一个疑惑，为什么会同时由两个 Thread 同时达到了该目标呢？

发现问题

今天早上到公司时，我又打开了这个代码，发现确实有点不对劲，于是就和我边上做 Go 语言开发的同学，问了问他，哪里出现了问题，他和我说：“你加了读写锁了吗?” 你这里有数据脏读写。心里面有了点眉目。

按照他说的，修改了一下 AddToList 里面的逻辑，这时候，确实解决了上面的问题，

private void AddToList(int num)
{
    rwls.EnterReadLock();
    if (numList.Count == ENDNUM)
        return;
    rwls.ExitReadLock();

    rwls.EnterWriteLock();
    numList.Add(num);
    rwls.ExitWriteLock();
}

得到的结果如下：

完整的代码如下所示：

using System;
using System.Collections.Generic;
using System.ComponentModel;
using System.Diagnostics;
using System.Threading;
using System.Threading.Tasks;

namespace CSharpFundamental
{
    class MultipleThreadCompete
    {
        List<int> numList = new List<int>();
        Random random = new Random();
        CancellationTokenSource cts = new CancellationTokenSource();
        private const int ENDNUM = 1000000;

        ReaderWriterLockSlim rwls = new ReaderWriterLockSlim();

        internal void DoTheCompeteSecond()
        {
            Stopwatch sw = new Stopwatch();
            sw.Start();
            Task[] tasks = new Task[100];

            for (int i = 0; i < 100; ++i)
            {
                int num = i;
                tasks[i] = Task.Run(() => AddNumToList(num, cts), cts.Token);
            }

            Task.WaitAny(tasks);

            Console.WriteLine("ExecuteTime={0}", sw.ElapsedMilliseconds / 1000);
        }

        private int GetTheListCount()
        {
            return numList.Count;
        }

        private void AddToList(int num)
        {
            rwls.EnterReadLock();
            if (numList.Count == ENDNUM)
                return;
            rwls.ExitReadLock();

            rwls.EnterWriteLock();
            numList.Add(num);
            rwls.ExitWriteLock();
        }

        private void AddNumToList(object state, CancellationTokenSource cts)
        {
            Console.WriteLine("This is the {0} thread,Current ThreadId={1}",
                state,
                Thread.CurrentThread.ManagedThreadId);

            while (!cts.Token.IsCancellationRequested)
            {
                try
                {
                    rwls.EnterReadLock();
                    if (numList.Count == ENDNUM)
                    {
                        cts.Cancel();
                        Console.WriteLine("Current Thread Id={0},Current Count={1}",
                            Thread.CurrentThread.ManagedThreadId,
                            GetTheListCount());
                        break;
                    }
                }
                finally
                {
                    rwls.ExitReadLock();
                }

                var insertNum = GenerateInt32Num();
                if (numList.Contains(insertNum))
                {
                    insertNum = GenerateInt32Num();
                }

                AddToList(insertNum);
            }
        }

        private int GenerateInt32Num()
        {
            return random.Next(1, ENDNUM);
        }
    }
}

这时候，那位 Go 语言的同学和我说，我们试试 1000w 的数据插入，看看需要多少时间？于是我让他用 Go 语言实现了一下上面的逻辑，1000w数据用了三分钟，我让他看看总共生成了多少随机数，他查看了一下生成了 1亿4千多万的数据。

最开始我用上面的代码来测，发现我插入 1000w 的数据，CPU 到100% 而且花了挺长时间，程序根本没反应，查看了一下我判断重复的语句numList.Contains()

底层实现的代码为:

[__DynamicallyInvokable]
    public bool Contains(T item)
    {
        if ((object) item == null)
        {
            for (int index = 0; index < this._size; ++index)
            {
                if ((object) this._items[index] == null)
                    return true;
            }
            return false;
        }
        EqualityComparer<T> equalityComparer = EqualityComparer<T>.Default;
        for (int index = 0; index < this._size; ++index)
        {
            if (equalityComparer.Equals(this._items[index], item))
                return true;
        }
        return false;
    }

可想而知，如果数据量很大的话，这个循环不就及其缓慢吗？

我于是请教了那位 GO 的同学，判断重复的逻辑用什么来实现的，他和我说了一个位图 bitmap 的概念，

我用其重写了一下判断重复的逻辑，代码如下：

int[] bitmap = new int[MAX_SIZE]；

var index = num % TOTAL_NUM;
bitMap[index] = 1;

return bitMap[num] == 1;

在添加到 List 的时候，顺便插入到 bitmap 中，判断重复只需要根据当前元素的位置是否等于 1 即可，

我修改代码后，跑了一下 1000w 的数据用来 3000+ ms。

这时候，引起了他的极度怀疑，一向以高性能并发著称的 Go 速度竟然这么慢吗？他一度怀疑我的逻辑有问题。

下午结束了一个阶段的工作后，我又拾起了我上午写的代码，果不其然，发现了逻辑错误：

如下：

var insertNum = GenerateInt32Num();
if (numList.Contains(insertNum))
{
    insertNum = GenerateInt32Num();
}

生成随机数这里，这里有个大问题，就是其实只判断了一次，导致速度那么快，正确的写法应该是

while (ContainsNum(currentNum))
{
    currentNum = GenerateInt32Num();
}

private int GenerateInt32Num()
{
    var num = random.Next(0, TOTAL_NUM);
    //Console.WriteLine(num);

    return num;
}

最后的代码如下：

using System;
using System.Collections.Generic;
using System.Diagnostics;
using System.Threading;
using System.Threading.Tasks;

namespace CSharpFundamental
{
    class MultipleThreadCompete
    {
        List<int> numList = new List<int>();
        Random random = new Random();
        CancellationTokenSource cts = new CancellationTokenSource();
        private const int TOTAL_NUM = 1000000;
        private const int CURRENT_THREAD_COUNT = 35;

        ReaderWriterLockSlim rwls = new ReaderWriterLockSlim();

        int[] bitMap = new int[TOTAL_NUM];

        internal void DoTheCompete()
        {
            //ThreadPool.SetMinThreads(CURRENT_THREAD_COUNT, CURRENT_THREAD_COUNT);
            Stopwatch sw = new Stopwatch();
            sw.Start();
            Task[] tasks = new Task[CURRENT_THREAD_COUNT];

            for (int i = 0; i < CURRENT_THREAD_COUNT; ++i)
            {
                int num = i;
                tasks[i] = Task.Run(() => ExecuteTheTask(num, cts), cts.Token);
            }

            Task.WaitAny(tasks);

            Console.WriteLine("ExecuteTime={0}", sw.ElapsedMilliseconds);
        }

        private int GetTheListCount()
        {
            return numList.Count;
        }

        private void AddToList(int num)
        {
            if (numList.Count == TOTAL_NUM)
                return;
            numList.Add(num);

            var index = num % TOTAL_NUM;
            bitMap[index] = 1;
        }

        private void ExecuteTheTask(object state, CancellationTokenSource cts)
        {
            Console.WriteLine("This is the {0} thread,Current ThreadId={1}",
                state,
                Thread.CurrentThread.ManagedThreadId);

            while (!cts.Token.IsCancellationRequested)
            {
                try
                {
                    rwls.EnterReadLock();
                    if (numList.Count == TOTAL_NUM)
                    {
                        cts.Cancel();
                        Console.WriteLine("Current Thread Id={0},Current Count={1}",
                            Thread.CurrentThread.ManagedThreadId,
                            GetTheListCount());
                        break;
                    }
                }
                finally
                {
                    rwls.ExitReadLock();
                }

                var currentNum = GenerateInt32Num();

                while (ContainsNum(currentNum))
                {
                    currentNum = GenerateInt32Num();
                }

                rwls.EnterWriteLock();
                AddToList(currentNum);
                rwls.ExitWriteLock();
            }
        }

        private int GenerateInt32Num()
        {
            var num = random.Next(0, TOTAL_NUM);
            //Console.WriteLine(num);

            return num;
        }

        private bool ContainsNum(int num)
        {
            rwls.EnterReadLock();
            var contains = bitMap[num] == 1;
            rwls.ExitReadLock();

            return contains;
        }
    }
}

结果如下：

但是这个代码执行 1000w的数据需要好久。这个问题继续研究。

源码地址：https://github.com/doublnt/dotnetcore/tree/master/CSharpFundamental

欢迎大佬指点，还望不吝赐教。

posted @ 2019-05-23 22:34 BUTTERAPPLE 阅读(1161) 评论(12) 编辑收藏举报

刷新页面返回顶部

Butterapple

C# 多线程小试牛刀

2019年6月28日更新

前言

开始尝试

发现问题

公告