centos搭建
在centos下安装tmux
yum install automake
yum install ncurses-devel
yum install byacc
yum install flex
首先我是用yum install tmux
尝试安装的。估计没有源,没有找到tmux。所以习惯性直接找源代码安装。
但是其中有依赖,需要先安装libevent
。
wget https://github.com/downloads/libevent/libevent/libevent-2.0.21-stable.tar.gz tar xzvf libevent-2.0.21-stable.tar.gz cd libevent-2.0.21-stable ./configure && make make install
然后再下载源码安装tmux
git clone git@github.com:zq942357/tmux.git tmuxcode //自己的github cd tmuxcode sh autogen.sh ./configure && make make install
运行的时候会出现库找不到的情况
tmux: error while loading shared libraries: libevent_core-2.0.so.5: cannot open shared object file: No such file or directory
只要找到相应的地方 建一个软链接就行了,注意 一定要看清楚名字 找到对的地方
ln -s /usr/local/lib/libevent_core-2.0.so.5 /usr/lib64/libevent_core-2.0.so.5
在无 GUI 的 CentOS 上使用 Selenium+Chrome
安装 Chromeium:
## 安装yum源
[root@spider01 ~]# sudo yum install -y epel-release
## 安装Chrome
[root@spider01 ~]# yum install -y chromium
去这个地方:https://sites.google.com/a/chromium.org/chromedriver/downloads 下载 ChromeDriver 驱动放在 /usr/bin/ 目录下
安装 XVFB:
[root@spider01 ~]# yum install Xvfb -y
[root@spider01 ~]# yum install xorg-x11-fonts* -y
新建在 /usr/bin/ 一个名叫 xvfb-chromium 的文件写入以下内容:
#!/bin/bash
_kill_procs() {
kill -TERM $chromium
wait $chromium
kill -TERM $xvfb
}
# Setup a trap to catch SIGTERM and relay it to child processes
trap _kill_procs SIGTERM
XVFB_WHD=${XVFB_WHD:-1280x720x16}
# Start Xvfb
Xvfb :99 -ac -screen 0 $XVFB_WHD -nolisten tcp &
xvfb=$!
export DISPLAY=:99
chromium --no-sandbox --disable-gpu$@ &
chromium=$!
wait $chromium
wait $xvfb
更改软链接
## 更改Chrome启动的软连接
[root@spider01 ~]# ln -s /usr/lib64/chromium-browser/chromium-browser.sh /usr/bin/chromium
[root@spider01 ~]# rm -rf /usr/bin/chromium-browser
[root@spider01 ~]# ln -s /usr/bin/xvfb-chromium /usr/bin/chromium-browser
[root@spider01 ~]# ln -s /usr/bin/xvfb-chromium /usr/bin/google-chrome
[root@spider01 ~]# ll /usr/bin/ | grep chrom
-rwxrwxrwx. 1 root root 7500280 11月 29 17:32 chromedriver
lrwxrwxrwx. 1 root root 47 11月 30 09:47 chromium -> /usr/lib64/chromium-browser/chromium-browser.sh
lrwxrwxrwx. 1 root root 22 11月 30 09:48 chromium-browser -> /usr/bin/xvfb-chromium
-rwxr-xr-x. 1 root root 73848 12月 7 2016 chronyc
lrwxrwxrwx. 1 root root 22 11月 30 09:48 google-chrome -> /usr/bin/xvfb-chromium
-rwxrwxrwx. 1 root root 387 11月 29 18:16 xvfb-chromium
python的安装
首先去https://www.python.org/ftp/python/下载一个想要的包
我这里选的是Python-3.9.6.tar.xz
wget https://www.python.org/ftp/python/3.9.6/Python-3.9.6.tar.xz
下载完后 解压进入文件
./configure --prefix=/usr/local/python3Dir
然后make && make install
遇到错误
yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-devel db4-devel libpcap-devel xz-devel
yum -y install libffi-devel
然后编译通过在/usr/local/python3Dir下生成lib和bin
然后去/usr/bin/
mv python python_bak 备份一下之前的python2
添加软连接ln -s /usr/local/python3Dir/bin/python3 /usr/bin/python
现在python3的环境就配置好了
升级了python3后yum不能使用
vim /usr/bin/yum
vim /usr/libexec/urlgrabber-ext-down
把这2个文件的环境改成修改好的python2的环境
--#! /usr/bin/python
++#! /usr/bin/python2_bak
开始安装库
sudo yum install -y epel-release libxslt-devel libxml2-devel openssl-devel
yum -y install python3-pip
开始安装爬虫的库
pip3 install requests
pip3 install wheel
pip3 install selenium