Python Scrapy初步使用

1、创建爬虫工程

scrapy startproject stockproject001

2、创建爬虫项目

cd stockproject001

scrapy genspider stockinfo quote.eastmoney.com

 

3、定义数据项或数据字段

打开 items.py，输入：

 

 

4、定义爬取规则

打开stockinfo.py，输入：

 

 

5、定义数据处理管道

打开pipelines.py，输入：

 

 

6、启用爬虫项目

打开settings.py，修改：

 

7、执行爬虫

scrapy crawl stockinfo --nolog

--nolog不看日志

 

.....................