scrapy 框架持久化存储
1.基于终端的持久化存储
保证爬虫文件的parse方法中有可迭代类型对象(通常为列表或字典)的返回,该返回值可以通过终端指令的形式写入指定格式的文件中进行持久化操作.
# 执行输出指定格式进行存储:将爬到的数据写入不同格式的文件中进行存储 scrapy crawl <爬虫名称> -o xxx.json scrapy crawl <爬虫名称> -o xxx.xml scrapy crawl <爬虫名称> -o xxx.csv
2.基于管道的持久化存储
scrapy框架中已经为我们专门集成好了高效,便捷,的持久化操作功能,我们直接使用即可.要想使用scrapy的持久化操作功能,我们首先来认识如下两个文件:
items.py: 数据结构模板文件,定义数据属性. pipelines.py: 管道文件,接受数据(items),进行持久化操作 持久化存储流程: 1.爬虫文件爬取到数据后,需要将数据封装到items对象中. 2.使用yield关键字将item对象提交给pipelines管道进行持久化操作 3.在管道文件中的process_item方法中接收爬虫文件提交过来的item对象,然后编写持久化存储代码将item对象中存储的数据进行持久化存储 4.settings.py配置文件中开启管道
小试牛刀:将糗事百科首页中的段子和作者数据爬下来,然后进行持久化存储
- 爬虫文件:blood.py
# -*- coding: utf-8 -*- import scrapy from first.items import FirstItem class BloodSpider(scrapy.Spider): name = 'blood' # allowed_domains = ['www.qiushibaike.com'] start_urls = ['https://www.qiushibaike.com/text/'] def parse(self, response): div_list = response.xpath('//*[@id="content-left"]/div') # xpath为response中的方法,这里可以直接将xpath表达式直接作用于该函数中 for div in div_list: # xpath函数返回的为列表，列表中存放的数据为Selector类型的数据。我们解析到的内容被封装在了Selector对象中，需要调用extract()函数将解析的内容从Selecor中取出。 author = div.xpath('./div[1]/a[2]/h2/text()').extract_first() author = author.strip("\n") # 过滤空行 content = div.xpath('./a/div/span//text()').extract_first() content = content.strip("\n") # 过滤空行 print(author) # 将解析到的数据封装到items对象中 item = FirstItem() item["author"] = author item["content"] = content yield item # 提交item到管道文件(pipelines.py)
- items文件: items.py
# -*- coding: utf-8 -*- # Define here the models for your scraped items # # See documentation in: # https://doc.scrapy.org/en/latest/topics/items.html import scrapy class FirstItem(scrapy.Item): # define the fields for your item here like: # name = scrapy.Field() author = scrapy.Field() # 存储作者 content = scrapy.Field() # 存储段子内容
- 管道文件：pipelines.py
# -*- coding: utf-8 -*- # Define your item pipelines here # # Don't forget to add your pipeline to the ITEM_PIPELINES setting # See: https://doc.scrapy.org/en/latest/topics/item-pipeline.html class FirstPipeline(object): # 构造方法 def __init__(self): self.fp = None # 定义一个文件描述符 # 下列都是在重写父类的方法 # 开始爬虫是执行一次 def open_spider(self,spider): print("爬虫开始") self.fp = open('./data.txt', 'w') # 因为该方法会被执行多次,调用多次,所以文件的开始和关闭操作写在了另外两个只会各自执行一次的方法 def process_item(self, item, spider): # 将爬虫程序提交的item进行持久化存储 self.fp.write(item["author"]+":"+item["content"]+"\n") return item def close_spider(self,spider): self.fp.close() print('爬虫结束')
- 配置文件：settings.py
# 开启管道 ITEM_PIPELINES = { 'first.pipelines.FirstPipeline': 300, }
2.1基于mysql的管道存储
小试牛刀案例中,在管道文件里将item对象中的数据值存储到磁盘中,如果将item数据写入mysql数据库的话,只需要将上述案例中的管道文件存储修改成如下形式:
- pipelines.py文件
# -*- coding: utf-8 -*- # Define your item pipelines here # # Don't forget to add your pipeline to the ITEM_PIPELINES setting # See: https://doc.scrapy.org/en/latest/topics/item-pipeline.html import pymysql class FirstPipeline(object): # 构造方法 conn = None cursor = None def open_spider(self,spider): print("爬虫开始") self.conn = pymysql.Connect(host='127.0.0.1', port=3306, user='root', password='19990127',db='qiushi') # 因为该方法会被执行多次,调用多次,所以文件的开始和关闭操作写在了另外两个只会各自执行一次的方法 def process_item(self, item, spider): # 1.链接数据库 # 2.执行失去了语句 sql = 'insert into qiushi values("%s","%s")' % (item["author"],item["content"]) self.cursor = self.conn.cursor() # 执行事务 try: self.cursor.execute(sql) self.conn.commit() except Exception as e: print(e) self.conn.rollback() return item def close_spider(self,spider): self.cursor.close() self.conn.close() print('爬虫结束')
2.2 基于redis的管道存储
小试牛刀案例中，在管道文件里将item对象中的数据值存储到了磁盘中，如果将item数据写入redis数据库的话，只需要将上述案例中的管道文件修改成如下形式：
# -*- coding: utf-8 -*- # Define your item pipelines here # # Don't forget to add your pipeline to the ITEM_PIPELINES setting # See: https://doc.scrapy.org/en/latest/topics/item-pipeline.html import redis class QiubaiproPipelineByRedis(object): conn = None def open_spider(self,spider): print('开始爬虫') #创建链接对象 self.conn = redis.Redis(host='127.0.0.1',port=6379) def process_item(self, item, spider): dict = { 'author':item['author'], 'content':item['content'] } #写入redis中 self.conn.lpush('data', dict) return item
- pipelines.py文件
ITEM_PIPELINES = { 'qiubaiPro.pipelines.QiubaiproPipelineByRedis': 300, }
- 面试题：如果最终需要将爬取到的数据值一份存储到磁盘文件，一份存储到数据库中，则应该如何操作scrapy？
- 答：管道文件中的代码为
#该类为管道类，该类中的process_item方法是用来实现持久化存储操作的。 class DoublekillPipeline(object): def process_item(self, item, spider): #持久化操作代码 （方式1：写入磁盘文件） return item #如果想实现另一种形式的持久化操作，则可以再定制一个管道类： class DoublekillPipeline_db(object): def process_item(self, item, spider): #持久化操作代码 （方式1：写入数据库） return item
在settings.py开启管道操作代码为：
#下列结构为字典，字典中的键值表示的是即将被启用执行的管道文件和其执行的优先级。 ITEM_PIPELINES = { 'doublekill.pipelines.DoublekillPipeline': 300, 'doublekill.pipelines.DoublekillPipeline_db': 200, } #上述代码中，字典中的两组键值分别表示会执行管道文件中对应的两个管道类中的process_item方法，实现两种不同形式的持久化操作。
