winform采集网站美女图片程序---多线程篇

   之前做的采集程序,  是单线程的,  一个图片列表, 要等着一一采完....浪费了不少时间,  正好今天家里带宽升级, 可以使用多线程采集了.... 连夜改进原来的程序.  使用多线程去采集....   

   设定思路: 采集目标: http://www.8kmm.com,   已知网址列表(List保存),  应用多线程(Thread)读取该列表, 获取url时不能重复(加锁Lock). 允许无序采集!  

   

先放个美女提提神!

 

多线程核心代码:

#region 全局变量
        //线程列表
        List<Thread> threadslList = new List<Thread>();
        //Url列表
        List<string> uUrls = new List<string>();
        //处理完毕的列表
        List<string> OkUrls = new List<string>();
        //成功取得的美女图片数量 
        public int ImgCount = 0;
#endregion


//取图开始 按钮事件
 private void lbtnGetWebImgStart_LinkClicked(object sender, LinkLabelLinkClickedEventArgs e)
        {
            lbtnGetWebImgStart.Enabled = false;
            GetWebSiteImg();
        }

//取图停止 按钮事件
        private void lbtnGetWebImgStop_LinkClicked(object sender, LinkLabelLinkClickedEventArgs e)
        {
            try
            {
                foreach (Thread t in threadslList)
                {
                    if (t != null)
                    {
                        t.Abort();
                    }
                }
            }
            catch (Exception ex)
            {
                WriteLog("停止失败:" + ex.Message);
            }
            finally
            {
                lbtnGetWebImgStart.Enabled = true;
            }
        }

        /// <summary>
        /// 获取图片主方法
        /// </summary>
        private void GetWebSiteImg()
        {
            try
            {
                ImgCount = 0;
                OkUrls.Clear();
                uUrls.Clear();
                threadslList.Clear(); //先初始化以上
                string[] urls = txtUrl.Text.Split(new string[] { "\r\n" }, StringSplitOptions.RemoveEmptyEntries); 
                lblC.Text = urls.Length.ToString(CultureInfo.InvariantCulture);
                uUrls = new List<string>(urls);
                for (int i = 0; i < int.Parse(numThreadUD.Text); i++) // 循环创建线程
                {
                    Thread t = new Thread(Task);
                    t.Name = i.ToString();
                    t.IsBackground = true;
                    threadslList.Add(t);
                    t.Start();
                } 
            }
            catch (Exception ex)
            {
                WriteLog(ex.Message);
            } 
        }


   public void Task()
        {
            while (uUrls.Count > 0)
            {
                lblMsg.Text = string.Format("剩余：{0}，已访问：{1}，当前线程数：{2}", uUrls.Count, (OkUrls.Count + 1), threadslList.Count);
                string url = GetUrl();
                if (url == "")
                {
                    break;
                }
                else
                {
                    if (GetHttpImg(url) == 200)//只有状态200才是正常的, GetHttpImg是我封装的方法, 获取网页, 正则取得所有合规范的图片. 
                    {
                        OkUrls.Add(url);
                        lblInfoStart.Text = (int.Parse(lblInfoStart.Text) + 1).ToString(CultureInfo.InvariantCulture);
                        WriteHtml(txtUrl.Text);
                        if (lblC.Text == lblInfoStart.Text)//判断当前数量是否已是总数. 
                        {
                            lblMsg.Text = "完成";
                        }
                    }
                }
            }
        }
    

        /// <summary>
        /// 线程加锁，防止多个线程同时从list里面取出第一个
        /// </summary>
        /// <returns></returns>
        public string GetUrl()
        {
            lock ("GetUrl")
            {
                if (uUrls.Count > 0)
                {
                    string url = uUrls[0];
                    uUrls.RemoveAt(0);
                    return url;
                }
                else
                {
                    return "";
                }
            }
        }

代码超级简单,  测试抓取几个列表，  没有问题， 等会用它去抓更多MM。。。