摘要: 之前介绍过将数据写入mysql数据库中,但是对于那些没有数据库的,可以通过写入json文件中或者是写入到csv或者xls;这里只介绍写入json文件中,也为再练习一下自定义的pipeline 思路: 1,写入数据库中,从数据库中可以以各种形式导出 2,自定义pipeline,注册在setting中 阅读全文
posted @ 2017-05-24 20:36 若鸟 阅读(2995) 评论(0) 推荐(0) 编辑
摘要: 前面讲解到将Item中的所有字段都已经填写完成,那么接下来就是将他们存储到mysql数据库中,那就用到了pipeline项目管道了; 对项目管道的理解:做一个比喻,爬取好比是开采石油,Item装的都是原油,需要通过一系列的管道和工艺进行提炼,而这些原油都是通过pipeline进行加工的,才能真正的到 阅读全文
posted @ 2017-05-24 19:24 若鸟 阅读(1764) 评论(0) 推荐(0) 编辑