Fork me on Gitee

python3网络爬虫(4):python3安装Scrapy

运行平台:  Windows

python版本:  python3.5.2

IDE:     pycharm

一、Scrapy简介

  Scrapy是一个为了爬取网站数据提取结构性数据而编写的应用框架,可以应用于数据挖掘,信息处理或存储历史数据等一系列的程序中。自己写的Python爬虫程序好比孤军奋战,而使用了Scrapy就好比手下有了千军万马。Scrapy可以起到事半功倍的效果

二、Scrapy安装

  1.查看python版本

    cmd中输入python,查看python版本,可以看到我的是3.5.2   64位

  

  2.找到对应版本的第三方库搜索Lxml、Twisted、Scrapy,下载对应版本

    

    

 

       

 

   3.cmd进入文件所在的位置,依次执行如下命令(我开始用的pwershell装的,到scrapy那个失败了,才换回的cmd,所以有两个提示已经安装了)

    (1)pip3 install wheel

 

 

    (2)pip3 install lxml   tab补齐

 

 

    (3)pip3 install Twisted tab补齐

 

 

 

    (4)pip3 install Scrapy tab补齐

 

   4.Scrapy安装完成后,还需要安装pywin32

一路下一步就OK

 

posted @ 2018-03-04 09:33  MARK+  阅读(1562)  评论(2编辑  收藏  举报