2727551894

导航

 

【网络爬虫】 预备知识

 一. 正则表达式之常用表达式

 正则表达式里有很多东西,学精不易,但做爬虫不需要学精,只要会其中部分就行,下面将介绍本人常用的表达式,基本够用了。

 1. 去头去尾 --- (?<=...)...(?=...)

 该表达式是本人用的最多的,如题意,去头去尾匹配中间,匹配单条数据时非常好用,正则好写,容易理解,且匹配出来的东西就是想要的

 2. 分组 ---(?<组名>...)...

 该表达式主要用在用一个正则匹配多条数据时使用

 会了上面2个基本就没问题了

二. 抓包工具,做爬虫这是至关重要的,没有工具基本是做不出来的

 这里推荐 ie11 自带的 F12。

 目前还没发现抓不到的包,而且自带搜索功能也很给力

三. Http

  1. 头信息 :

    a. Accept -- 接收到数据的类型,常见的有 html,txt, js, css, jpg

    b. Referer -- 上次请求的 url

    c. User-Agent -- 浏览器类型

    d. Host -- 抓取网站域名

    e. Cookie -- 头信息里最重要的,上面几个参数基本都可以通过抓包工具获取,但 Cookie 有些会失效 ,所以需要自己解析并仿照

  2. 发包方式 :

    a. 发包方式有2中 : GET 和 POST 可以有抓包工具获取

    b. GET 方式较 POST 要简单, GET 的参数是放在 Url 里的,仿照起来较简单

    c. POST 方式,POST 参数一般都会经过加密处理,而且还有些参数是通过 js 计算得到的,要想仿照就比较难了,尤其是登录的时候,对密码的加密,而且一般还会涉及到 Cookie,还有些网站有防爬验证,所以能不能成功大多看网站的安全性。

 

 

 

 

 

 

 

 

 

 

 

 

 

        

 

posted on 2014-12-03 17:23  xmj112288  阅读(195)  评论(0编辑  收藏  举报