摘要:
1.创建scrapy项目 dos窗口输入: 2.编写item.py文件(相当于编写模板,需要爬取的数据在这里定义) 3.创建爬虫文件 dos窗口输入: 4.编写myspider.py文件(接收响应,处理数据) 5.编写pipelines.py(存储数据) 6.编写settings.py(设置head 阅读全文
摘要:
1.创建scrapy项目 dos窗口输入: 2.编写item.py文件(相当于编写模板,需要爬取的数据在这里定义) 3.创建爬虫文件 dos窗口输入: 4.编写myspider.py文件(接收响应,处理数据) 5.编写pipelines.py(存储数据) 存储到mysql 改进版: 存储到mongo 阅读全文