爬虫--百度图片

baidu_images:

  1、首先百度图片的cookie是一个静态的,所以我们只需要发送一次请求就可以得到这个cookiele

  2、打开开发者工具,不断刷新页面,得到一个具体的url,然后分析url中的参数(这里面的参数一定要好好分析,因为这里面的有些字段是不需要的)

  3、分析完成之后,就是对页面数据的一些操作了(先不要想着一次性拿到所有的数据)

    1、首先先分析首页的url,拿到这里面的有用的数据(数据一般是你在请求的时候,就已经存在乐的,这时候就可以直接通过json反序列化得到后代中preview的数据)

    2、然后在来利用for循环来对不同的页面进行一个循环遍历,从而得到所有的数据

  4、当你拿完所有的数据之后,就是对所有的代码的一个整理,封装

 

总结:

  由于这里的cookie是静态的所以就不会产生那种cookie需要更新的情况,但是为了以防万一,你可以在抓取指定数据之后,自行来对cookie进行一次更新,避免产生不必要的错误

 

 

代码链接:https://github.com/1213William/baidu_images_spider

posted @ 2019-09-09 17:41  tulintao  阅读(657)  评论(0编辑  收藏  举报