Strava
给自己一些目标,|

cheflone

园龄:5年2个月粉丝:24关注:14

利用scrapy.cmdline里的execute快速调试爬虫

1.一直以来都在pycharm的terminal里输入:

1 scrapy crawl XX #XX代表spider_name

2.建立main.py来快速调试

复制代码
import os
import sys

from scrapy.cmdline import execute


def carry_out():
    sys.path.append(os.path.dirname(os.path.abspath(__file__)))
    execute(['scrapy', 'crawl', 'xx'])


if __name__ == '__main__':
    carry_out()
复制代码

 

注意:main.py 要在和scrapy.cfg建在同一级

 

posted @   cheflone  阅读(695)  评论(0编辑  收藏  举报
编辑推荐:
· SQL Server 内存占用高分析
· .NET Core GC计划阶段(plan_phase)底层原理浅谈
· .NET开发智能桌面机器人:用.NET IoT库编写驱动控制两个屏幕
· 用纯.NET开发并制作一个智能桌面机器人:从.NET IoT入门开始
· 一个超经典 WinForm,WPF 卡死问题的终极反思
阅读排行:
· 支付宝事故这事儿,凭什么又是程序员背锅?有没有可能是这样的...
· 在线客服系统 QPS 突破 240/秒,连接数突破 4000,日请求数接近1000万次,.NET 多
· C# 开发工具Visual Studio 介绍
· 在 Windows 10 上实现免密码 SSH 登录
· C#中如何使用异步编程
点击右上角即可分享
微信分享提示
评论
收藏
关注
推荐
深色
回顶
收起