随笔分类 -  Scrapy(Python3)

摘要:guilin.sql: guilin.py: items.py: MySQLPipline.py: 阅读全文
posted @ 2018-12-23 23:38 此生不换Yang 阅读(607) 评论(0) 推荐(0) 编辑
摘要:编辑qunaer.py: 编辑items.py: 新建MongoPipeline.py: 修改settings.py配置文件: scrapy crawl qunaer 运行爬虫 阅读全文
posted @ 2018-07-09 21:40 此生不换Yang 阅读(564) 评论(0) 推荐(0) 编辑
摘要:d: 进入D盘 scrapy startproject GitHub 创建项目 scrapy genspider github github.com 创建爬虫 编辑github.py: 新建debug.py调试脚本: 修改settings.py配置文件: 第23行修改为: 阅读全文
posted @ 2018-07-08 15:57 此生不换Yang 阅读(1094) 评论(0) 推荐(0) 编辑
摘要:d:进入D盘scrapy startproject douban创建豆瓣项目cd douban进入项目scrapy genspider douban_spider movie.douban.com创建爬虫 编辑items.py: 编辑douban_spider.py: 新建MySQLPipline. 阅读全文
posted @ 2018-07-07 19:47 此生不换Yang 阅读(1309) 评论(0) 推荐(0) 编辑
摘要:D:进入D盘 scrapy startproject cnblogs创建博客园项目 cd cnblogs进入项目根目录 scrapy genspider blog cnblogs.com创建爬虫文件 blog.py: scrapy crawl blog运行爬虫 首页展示的20条博客的标题和作者: 爬 阅读全文
posted @ 2018-07-04 23:48 此生不换Yang 阅读(753) 评论(0) 推荐(0) 编辑
摘要:d:进入D盘 scrapy startproject tutorial建立一个新的Scrapy项目 cd tutorial 进入项目路径 scrapy genspider quotes toscrape.com 建立一个新的爬虫 工程的目录结构: tutorial/ scrapy.cfg # 部署配 阅读全文
posted @ 2018-07-03 23:18 此生不换Yang 阅读(340) 评论(0) 推荐(0) 编辑
摘要:Windows怎样安装Scrapy? pip install scrapy会报错 访问https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted 下载并放到D盘 pip install D:\Twisted-18.4.0-cp36-cp36m-win_am 阅读全文
posted @ 2018-07-03 21:25 此生不换Yang 阅读(235) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示