Python爬虫学习:二、爬虫的初步尝试

我使用的编辑器是IDLE,版本为Python2.7.11,Windows平台。

本文是博主原创随笔,转载时请注明出处Maple2cat|Python爬虫学习:二、爬虫的初步尝试

1.尝试抓取指定网页

1 #encoding:utf-8
2 import urllib2
3 
4 url = "http://www.cnblogs.com/"
5 data = urllib2.urlopen(url).read()
6 print data

我使用urllib2这个库,有关这个库的详细解释请看Python 标准库 urllib2 的使用细节,上图是博客园首页的源码,已经被扒下来了~~

 

2.分析上述代码的具体作用

爬取网页源码的核心两行就是第4行和第5行。

1 url = "http://www.cnblogs.com/"

这行代码主要是指定了我们需要爬取的网页地址。

1 data = urllib2.urlopen(url).read()

这行代码是调用urllib2库里面的urlopen方法,传入一下url,就是上面我们指定的网页地址。并通过read()方法将网页的源码读入到data中。urlopen一般接受三个参数,如下所示:

1 urlopen(url, data, timeout)

第一个参数url,就是我们自己指定的网页地址,第二个参数data是访问url时要传送的数据,第三个参数timeout是设置超时时间。

第二个和第三个参数可以不用设置,data默认设置为None,timeout的默认设置为socket._GLOBAL_DEFAULT_TIMEOUT

 

posted @ 2016-05-15 21:38  Maple2cat  阅读(519)  评论(0编辑  收藏  举报