利用HtmlAgilityPack抓取园子里面的数据

   public void GetStr()
        {
            string url = "http://kb.cnblogs.com/list/1001/";
            HtmlWeb web = new HtmlWeb();
            //htmlWeb.DefaultEncoding = System.Text.Encoding.GetEncoding("");

            HtmlAgilityPack.HtmlDocument doc = web.Load(url);
            HtmlNode rootnode = doc.DocumentNode;
            string xpathstring = "//div[@class='list_title']";
            string newpath = "//div[@class='list_title']/a";
            HtmlNodeCollection aa = rootnode.SelectNodes(xpathstring);    //所有找到的节点都是一个集合
            HtmlNodeCollection tt = rootnode.SelectNodes(newpath);
            foreach(HtmlNode ht in tt)
            {
                 string innertext = ht.InnerText;
                string page = ht.GetAttributeValue("href", "");

                string newurl = "http://kb.cnblogs.com"+page;
                string content = GetContent(newurl);
            }
       
        }
        public string GetContent(string url)
        {
              HtmlWeb web = new HtmlWeb();
            //htmlWeb.DefaultEncoding = System.Text.Encoding.GetEncoding("");
            HtmlAgilityPack.HtmlDocument doc = web.Load(url);
            HtmlNode rootnode = doc.DocumentNode;
            string newpath = "//div[@class='contents_main']";
            HtmlNodeCollection tt = rootnode.SelectNodes(newpath);
            return tt[0].InnerText;
        }

posted @   (二少)在南极  阅读(1365)  评论(0编辑  收藏  举报
编辑推荐:
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
阅读排行:
· 周边上新:园子的第一款马克杯温暖上架
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· DeepSeek如何颠覆传统软件测试?测试工程师会被淘汰吗?
· 使用C#创建一个MCP客户端
点击右上角即可分享
微信分享提示