Python爬取百度百科Python相关词条的五十条记录
该项目的目标是爬取百度百科Python词条的五十条记录，从中取出url、标题和相应的摘要，最后输出到一个html文件中，打开文件就可以看到url、标题和相应的摘要
调度程序：
该程序包含了url管理器、html下载器、html分析器和html输出器，他们分别在初试方法中被初始化，在main方法中调用craw()方法，该方法的逻辑为：把传进来的url放到url管理器的待爬取得url集合中，再在待爬取的url集合中取出一条url，用html下载器self.downloader中.download(new_url)方法下载其内容，再用html分析器self.parser中的parse(new_url, html_cont)方法分析内容，取出url、标题、摘要等信息，当爬取到五十条的时候，用html输出器输出成html文档
代码如下：
from baike_spider import html_downloader from baike_spider import html_outputer from baike_spider import html_parser from baike_spider import url_manager class SpiderMain(object): def __init__(self): self.urls = url_manager.UrlManager() self.downloader = html_downloader.HtmlDownloader() self.parser = html_parser.HtmlParser() self.outputer = html_outputer.HtmlOutputer() def craw(self, root_url): count = 1 self.urls.add_new_url(root_url) while self.urls.has_new_url(): try: new_url = self.urls.get_new_url() print 'craw %d : %s' % (count, new_url) html_cont = self.downloader.download(new_url) new_urls, new_data = self.parser.parse(new_url, html_cont) self.urls.add_new_urls(new_urls) self.outputer.collect_data(new_data) if count == 50: break count = count + 1 except: print 'craw failed' self.outputer.output_html() if __name__ == '__main__': root_url = "https://baike.baidu.com/item/Python/407313" obj_spider = SpiderMain() obj_spider.craw(root_url)
url管理器
该程序初始化了两个集合，一个是已爬取的url集合，一个是待爬取的url集合，并且对外提供四个方法，分别为：add_new_url(self, url)、has_new_url(self)、get_new_url(self)、add_new_urls(self, urls)。这四个方法的功能为：把从网页上爬取的、既不在已爬取的url集合也不在待爬取的url集合的url加入到待爬取的url集合中；has_new_url(self)方法是判断待爬取的url集合中是否还有未爬取的url，返回值为true或者false；get_new_url(self)方法是从待爬取的url中取出一条url，再把该url从待爬取的url集合移动到已爬取的url集合中去；add_new_urls(self, urls)方法是通过调用add_new_url(self, url)，筛选从网页爬取下来的url是否需要加入到待爬取的url集合中去。
代码如下：
class UrlManager(object): def __init__(self): self.new_urls = set() self.old_urls = set() def add_new_url(self, url): if url is None: return if url not in self.new_urls and url not in self.old_urls: self.new_urls.add(url) def has_new_url(self): return len(self.new_urls) != 0 def get_new_url(self): new_url = self.new_urls.pop() self.old_urls.add(new_url) return new_url def add_new_urls(self, urls): if urls is None or len(urls) == 0: return for url in urls: self.add_new_url(url)
html下载器：
该程序对外提供一个方法download(self, url)，该方法的作用是去下载传进来的url的网页内容。
代码如下：
import cookielib import urllib2 class HtmlDownloader(object): def download(self, url): if url is None: return None #request = urllib2.Request(url) #request.add_header("user-agent","Mozilla/5.0") cj = cookielib.CookieJar() opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj)) urllib2.install_opener(opener) response = urllib2.urlopen(url) return response.read()
html分析器：
通过分析，百度百科页面的html发现，其文中链接格式为：<a target="_blank" href="/item/%E8%B7%A8%E5%B9%B3%E5%8F%B0">跨平台</a>，标题的格式为：<dd class="lemmaWgt-lemmaTitle-title">
<h1>Python</h1>，摘要的格式为：<div class="lemma-summary" label-module="lemmaSummary"><div class="para" label-module="para">Python<sup class="sup--normal" data-sup="1">。也就是标题在dd标签class=lemmaWgt-lemmaTitle-title下的h1中，摘要在div的class=lemma-summary中。该程序向外提供一个方法def parse(self, page_url, html_cont)，该方法返回值是网页中的url和所需数据，它调用两个内部方法_get_new_urls(self, page_url, soup)和_get_new_data(self, page_url, soup)，其中_get_new_urls(self, page_url, soup)方法是爬取页面的url，_get_new_data(self, page_url, soup)方法是爬取所需的数据，比如标题和摘要。
代码如下：
import re import urlparse from bs4 import BeautifulSoup class HtmlParser(object): def parse(self, page_url, html_cont): if page_url is None or html_cont is None: return soup = BeautifulSoup(html_cont, 'html.parser', from_encoding="UTF-8") new_urls = self._get_new_urls(page_url, soup) new_data = self._get_new_data(page_url, soup) return new_urls, new_data def _get_new_urls(self, page_url, soup): new_urls = set() links = soup.find_all('a', href=re.compile(r"\/item\/(.*?)")) for link in links: new_url = link['href'] new_full_url = urlparse.urljoin(page_url, new_url) new_urls.add(new_full_url) return new_urls def _get_new_data(self, page_url, soup): res_data = {} res_data['url'] = page_url title_node = soup.find('dd', class_="lemmaWgt-lemmaTitle-title").find("h1") res_data['title'] = title_node.get_text() summary_node = soup.find('div', class_="lemma-summary") res_data['summary'] = summary_node.get_text() return res_data
hrml输出器：
该程序对外提供两个方法collect_data(self, data)和output_html(self)，collect_data(self, data)方法是收集数据，output_html(self)方法是把收集到的数据输出成html
代码如下：
class HtmlOutputer(object): def __init__(self): self.datas = [] def collect_data(self, data): if data is None: return self.datas.append(data) def output_html(self): fout = open('output.html', 'w') fout.write("<html>") fout.write("<body>") fout.write("<table>") for data in self.datas: fout.write("<tr>") fout.write("<td>%s</td>" % data['url']) fout.write("<td>%s</td>" % data['title'].encode('UTF-8')) fout.write("<td>%s</td>" % data['summary'].encode('UTF-8')) fout.write("</tr>") fout.write("</table>") fout.write("</body>") fout.write("</html>") fout.close()
运行结果如下：
打开输出的html文件如下：
