使用C#去掉10万级数组中重复的数据

最近做了个小程序，其中有个功能是去掉数组中的重复数据，开始没有考虑数组数量的问题，使用了一般的算法。但后面别人和我说5W条数据等了10分钟还没有成功，汗。。。

（刚才写这篇文章，浏览器突然自动刷新了，郁闷呀，写的一点都没有了，都没自动保存草稿，纠结）

后面用了别一种算法，基本上20S内可以完成了。

测试数据1万条

第一种算法（4分钟）

 

/// <summary>
        /// List泛型去重
        /// </summary>
        /// <param name="list">由一维数组组成的泛型</param>
        /// <param name="ItemID">要去除重复的项</param>
         private void RemoveRepeaterUrl(ref List<string[]> list,int ItemID)
         {
             for (int i = 0; i < list.Count; i++)
             {
                 for (int j = (i + 1); j < list.Count; j++)
                 {
                     if (list[j][ItemID] == list[i][ItemID])
                     {
                         list.RemoveAt(j);//去除相同的项
                         i = 0;//从新开始去重，如果数组内有大量重复的项，仅一次去重不能解决问题。这样的用法会使效率慢1/3
                         j = 0;
                     }
                 }
             }
         }

第二种算法(4S)

        //去除重复的数据， 返回list

        //利用类库中的hashtable类的containsKeys方法判断hashtable中是否存在这个数据，要是不存在就

        //把数据添加到新的List中，最后清空hashtable

        public List<string> getUnque(List<string> list)
        {
            List<string> list1 = new List<string>();
            Hashtable hash = new Hashtable();
            foreach (string stu in list)
            {
                string[] kk1 = stu.Split(new string[] { "--" }, StringSplitOptions.RemoveEmptyEntries);
                string comword = kk1.Length==3 ? kk1[2]:"";
                if (!hash.ContainsKey(comword))
                {
                    hash.Add(comword, comword);
                    list1.Add(stu);
                }
            }
            hash.Clear();
            hash = null;
            return list1;
        }