爬取新浪网站却不显示内容
今天尝试爬取新浪微博,但是爬取下来网页的源代码,以html形式打开却发现没有内容,如下图:
我查阅了一些资料,发现微博这种主流网页一般都是动态网页,都普遍采用了ajax加载数据,如果我用传统的爬虫post一个url或请求参过去,那么我接受相应的html代码会没有我想要的数据。
而抓取动态页面有两种常用的方法,一是通过JavaScript逆向工程获取动态数据接口(真实的访问路径),另一种是利用selenium库模拟真实浏览器,获取JavaScript渲染后的内容。
我之后以爬取新浪为例再把实践发表成博客。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· C#/.NET/.NET Core技术前沿周刊 | 第 29 期(2025年3.1-3.9)
· 从HTTP原因短语缺失研究HTTP/2和HTTP/3的设计差异