pycharm下打开、执行并调试scrapy爬虫程序

1. 首先得有一个Scrapy项目，我在Desktop上新建一个Scrapy的项目叫test，在Desktop目录打开命令行，键入命令：scrapy startproject test1 

   
    
   目录结构如下： 
   
    
    
    

    

2. 打开Pycharm，选择open 

   
    

    

3. 选择项目，ok 

   

    

4. 打开如下界面之后，按alt + 1， 打开project 面板 

   
    

5. 在test1/spiders/，文件夹下，新建一个爬虫spider.py， 注意代码中的name="dmoz"。这个名字后面会用到。 

   

    

6. 在test1目录和scrapy.cfg同级目录下面，新建一个begin.py文件（便于理解可以写成main.py），注意箭头2所指的名字和第5步中的name='dmoz' 名字是一样的。

    from scrapy import cmdline

    cmdline.execute("scrapy crawl dmoz".split())

• 1
• 2
• 3

• 1
• 2
• 3

 

 

7. 上面把文件搞定了，下面要配置一下pycharm了。点击Run->Edit Configurations

 

 

8. 新建一个运行的python模块 

9. Name：改成spider； script：选择刚才新建的那个begin.py文件；Working Direciton：改成自己的工作目录 

10. 至此，大功告成了，点击下图，右上角的按钮就能运行了。 

 

 

 

 

调试

 

可以在其他代码中设置断点，就可以debug运行

Paste_Image.png

 

 

转载1：http://www.jianshu.com/p/f85120fcbca0

转载2：http://blog.csdn.net/wangsidadehao/article/details/52911746