利用HtmlAgilityPack抓取园子里面的数据
public void GetStr()
{
string url = "http://kb.cnblogs.com/list/1001/";
HtmlWeb web = new HtmlWeb();
//htmlWeb.DefaultEncoding = System.Text.Encoding.GetEncoding("");
HtmlAgilityPack.HtmlDocument doc = web.Load(url);
HtmlNode rootnode = doc.DocumentNode;
string xpathstring = "//div[@class='list_title']";
string newpath = "//div[@class='list_title']/a";
HtmlNodeCollection aa = rootnode.SelectNodes(xpathstring); //所有找到的节点都是一个集合
HtmlNodeCollection tt = rootnode.SelectNodes(newpath);
foreach(HtmlNode ht in tt)
{
string innertext = ht.InnerText;
string page = ht.GetAttributeValue("href", "");
string newurl = "http://kb.cnblogs.com"+page;
string content = GetContent(newurl);
}
}
public string GetContent(string url)
{
HtmlWeb web = new HtmlWeb();
//htmlWeb.DefaultEncoding = System.Text.Encoding.GetEncoding("");
HtmlAgilityPack.HtmlDocument doc = web.Load(url);
HtmlNode rootnode = doc.DocumentNode;
string newpath = "//div[@class='contents_main']";
HtmlNodeCollection tt = rootnode.SelectNodes(newpath);
return tt[0].InnerText;
}
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· 周边上新:园子的第一款马克杯温暖上架
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· DeepSeek如何颠覆传统软件测试?测试工程师会被淘汰吗?
· 使用C#创建一个MCP客户端