代码改变世界

CentOS6.5安装Scrapy

2018-09-11 15:03  猎手家园  阅读(427)  评论(0)  编辑  收藏  举报

1、安装命令超级简单：

[root@mycentos ~]# pip install Scrapy

建立软链接： 

[root@mycentos ~]# ln -s /usr/local/python3/bin/scrapy /usr/bin/scrapy

  

2、但是Scrapy有6个依赖的python包：

  • lxml ，一个高效的XML和HTML解析器
  • parsel ， 一个基于 lxml 的 HTML / XML 数据提取库
  • w3lib ，一个用于处理URL和网页编码的多用途助手
  • twisted， 一个异步的网络框架
  • cryptography 和 pyOpenSSL ，以处理各种网络级安全需求

Scrapy 经过测试支持的最低版本为：

  • Twisted 14.0
  • lxml 3.4
  • pyOpenSSL 0.14

 

3、以安装Twisted为例

下载安装包Twisted-18.7.0.tar.bz2：https://pypi.org/project/Twisted/

接下来：

[root@mycentos ~]# tar jxvf Twisted-18.7.0.tar.bz2
[root@mycentos ~]# cd Twisted-18.7.0
[root@mycentos Twisted-18.7.0]# python3 setup.py build
[root@mycentos Twisted-18.7.0]# python3 setup.py install

安装完毕！