python爬微信公众号前10篇历史文章(1)-思路概览
作为程序员,要时刻保持一颗好奇心和想要学习的姿态。
练习怎样利用搜狗微信爬取某指定微信公众号的历史文章。爬取微信公众号本身难度非常大,感谢搜狗提供了一个可以爬取数据的平台。
代码部分参考于: https://github.com/Chyroc/WechatSogou/tree/master/wechatsogou
目标:
1. 从http://weixin.sogou.com/搜狗微信搜索中获取指定公众号名称的搜索页面
2. 抓取指定公众号的历史文章列表
待解决难题:
如何从输入验证码页面自动跳转到我们想要的页面
整体思路:
使用python强大的库。
要获取搜索页面,需要拼接地址。需使用python requests模块。
要解析爬下来的html数据,需要用到xpath,lxml, 可以使用chrome的扩展插件xpath helper。