使用docker部署基于selenium和chrome-headless的爬虫
使用docker部署基于selenium和chrome-headless的爬虫
无论是测试还是爬虫的一些工作，有时候都会用到selenium去对chrome执行自动化操作，这里介绍一下如何使用docker快捷方便的部署相关应用。
1. selenium+chrome镜像
通过docker search selenium我们发现，有一个docker镜像叫做selenium/standalone-chrome。 看名字应该是包含了selenium和chrome，按照之前的方式我们是在本机上直接调用webdriver控制chrome，而在虚拟机上我们可以使用远程调用。
先翻一下官方文档，发现有两种启动方式：
$ docker run -d -p 4444:4444 -v /dev/shm:/dev/shm selenium/standalone-chrome:3.141.59-dubnium
#OR
$ docker run -d -p 4444:4444 --shm-size=2g selenium/standalone-chrome:3.141.59-dubnium
这里看到镜像名称后面有标签，如果pull的是latest版本的话那么可以忽略。
2. 启动selenium+chrome服务
现在我们测试启动selenium+chrome服务。 执行下面的语句启动容器：
docker run -d -p 4444:4444 --shm-size=2g selenium/standalone-chrome
这里容器暴露了一个4444端口用于连接，使用一下python代码（命名为spider.py）连接selenium服务，生成
webdriver：
from selenium import webdriver
from selenium.webdriver.common.desired_capabilities import DesiredCapabilities
driver = webdriver.Remote(
command_executor="http://127.0.0.1:4444/wd/hub",
desired_capabilities=DesiredCapabilities.CHROME
)
driver.get("http://www.baidu.com")
print(driver.title)
driver.close()
执行前要确保python3环境中安装了selenium：
pip install selenium
然后执行代码，返回以下结果说明访问容器成功：
百度一下，你就知道
3. 使用python镜像
现在我们还在本机上执行python代码，有时候也足够了，如果想要在docker上一键部署python+selenium+chrome的话，请继续往下面看。 先pull一个alpine3.6版本的python镜像：
docker pull python:alpine3.6
然后根据我们的需求，定制一下这个python镜像，这里我们在里面安装好selenium就行了，所以编写如下的Dockerfile：
FROM python:alpine3.6
RUN pip install selenium
构建名为selenium_python的新镜像：
docker build . -t selenium_python:v1
4. 编写docker-compose文件
要同时部署python脚本和selenium-chrome，docker-compose当然是首选。 docker-compose并非docker的自带工具，因此执行如下命令安装：
sudo apt-get install docker-compose
根据需求编写docker-compose文件：
version: "2.0"
services:
spider:
image: selenium_python:v1
volumes:
- ./spider.py:/code/spider.py # 这里把刚刚的代码映射到这个目录
command: python /code/spider.py # 定义启动容器执行的命令
depends_on:
- chrome
chrome:
image: selenium/standalone-chrome:latest
ports:
- "4444:4444"
shm_size: 2g
先别急着启动，这里注意两个问题： 这里selenium容器的hostname是chrome，所以要修改command_executor="http://127.0.0.1:4444/wd/hub"中的IP地址，修改后为command_executor="http://chrome:4444/wd/hub"
注意chrome启动要一定的时间，所以在代码最前面加上几秒钟延时（也可以使用相关手段检测chrome完全启动，可以自行谷歌）
修改后的代码为：
from selenium import webdriver
from selenium.webdriver.common.desired_capabilities import DesiredCapabilities
import time
time.sleep(5)
driver = webdriver.Remote(
command_executor="http://chrome:4444/wd/hub",
desired_capabilities=DesiredCapabilities.CHROME
)
driver.get("http://www.baidu.com")
print(driver.title)
driver.close()
然后使用docker-compose启动服务：
docker-compose up -d
如果不报错，在docker logs seleniumchrome_spider_1显示的日志中，同样可以看到： 百度一下，你就知道:
百度一下，你就知道
转载：https://blog.csdn.net/weixin_39198406/article/details/85085505
