介绍

深度学习一般依赖比较复杂的环境,每个项目需要的底层库各有不同,有时在github中下载的代码只能运行在版本较低的的工具链之上。想在一台机器上建立适合所有项目的环境非常困难,大多数情况下使用docker维护不同项目针对的不同环境。

CUDA是NVIDIA推出的运算平台,一般通过它调用GPU,CUDA的主要版本有7.x, 8.x,9.x,10.x,目前最常用的是9和10,它们对接的上层软件版本也各不相同。如:

torch 1.1.0/1.1.0 + torchvision 0.2.* + CUDA 9
torch 1.2.0/1.3.0 + torchvision 0.3.* + CUDA 10
torch 1.2.0/1.3.0 + torchvision 0.4.* + CUDA 10
torch 1.4.0 + torchvision 0.5.* + CUDA 10

除了CUDA基础库以外,还需安装相关工具包。可以在同一个操作系统中安装多个CUDA版本,使用时切换即可。

在Docker中使用GPU除了在Docker内部安装CUDA及相关工具以外,还需要使用nvidia-docker启动镜像,并且要在宿主机上安装CUDA的底层支持(注意版本兼容)。

宿主机安装Nvidia驱动

$ sudo add-apt-repository ppa:graphics-drivers/ppa
$ sudo apt-get update
$ sudo ubuntu-drivers devices # 查看当前显卡及推荐的驱动
$ sudo apt-get install nvidia-driver-435 # 选择其中一个推荐安装,尽量安装较高版本
$ sudo apt install nvidia-utils-435 # nvidia-smi支持(查看显卡信息)
$ sudo apt install nvidia-cuda-toolkit # nvcc支持(nv环境下的C语言编译器)
$ sudo reboot

重启之后,使用nvidia-smi命令即可看到机器上的显卡及当前使用情况:

安装支持CUDA的Docker工具

安装Docker

# 安装系统工具
$ sudo apt-get update
$ sudo apt-get -y install apt-transport-https ca-certificates curl software-properties-common
# 安装GPG证书
$ curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -
# 写入软件源信息
$ sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"
# 更新并安装 Docker-CE
$ sudo apt-get -y update
$ sudo apt-get -y install docker-ce

安装Nvidia-docker2

$ curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | \
 sudo apt-key add -
$ distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
$ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | \
 sudo tee /etc/apt/sources.list.d/nvidia-docker.list
$ sudo apt-get update
$ sudo apt-get install -y nvidia-docker2
$ sudo pkill -SIGHUP dockerd
$ sudo docker run --runtime=nvidia --rm nvidia/cuda nvidia-smi # 测试

测试时自动从网上下载镜像nvidia/cuda,该镜像大小为2.83G,只包含基本的9.1版本的CUDA环境,不含Python相关工具。

推荐Docker镜像

目前最常用的是CUDA 9.x和CUDA 10.x,推荐下面两个镜像。 下载方法:

$ docker pull registry.cn-shanghai.aliyuncs.com/tcc-public/pytorch:1.1.0-cuda10.0-py3
$ docker pull registry.cn-shanghai.aliyuncs.com/tcc-public/pytorch:latest-cuda9.0-py3 

运行方法:

$ nvidia-docker run --rm -it registry.cn-shanghai.aliyuncs.com/tcc-public/pytorch:latest-cuda9.0-py3 bash

它们的大小分别是4.17G和3.56G,以cuda-10.0版本为例,其内部为Ubuntu 16.04系统,可使用apt-get安装软件,其Python版本为3.6.5。pytorch版本为1.0.0。

在Docker中使用Jupyter开发

在pytorch:1.1.0-cuda10.0-py3的基础上安装jupyter开发环境:
在当前目录下创建Dockerfile,内容如下:

FROM registry.cn-shanghai.aliyuncs.com/tcc-public/pytorch:1.1.0-cuda10.0-py3
ADD . /
RUN mkdir ~/.pip \
 && echo "[global]\nindex-url = https://mirrors.aliyun.com/pypi/simple/" > ~/.pip/pip.conf
RUN sed -i s@/archive.ubuntu.com/@/mirrors.aliyun.com/@g /etc/apt/sources.list
RUN apt-get clean
RUN apt-get update -y
RUN pip install jupyter

ENV PASSWORD=123456
ENV CONFIG_PATH="/root/.jupyter/jupyter_notebook_config.py"
COPY "jupyter_notebook_config.py" ${CONFIG_PATH}
WORKDIR /notebooks/
#CMD ["sh", "run.sh"]

在当前目录下创建jupyter配置文件jupyter_notebook_config.py,用于设置密码:

import os
from IPython.lib import passwd
# c = c # pylint:disable=undefined-variable
c = get_config()
c.NotebookApp.ip = '0.0.0.0'
c.NotebookApp.port = int(os.getenv('PORT', 8888))
c.NotebookApp.open_browser = False
# sets a password if PASSWORD is set in the environment
if 'PASSWORD' in os.environ:
    password = os.environ['PASSWORD']
    if password:
        c.NotebookApp.password = passwd(password)
    else:
        c.NotebookApp.password = ''
        c.NotebookApp.token = ''
del os.environ['PASSWORD']

创建名为test:0.1的Docker镜像:

$ sudo docker build . -t test:0.1

启动方法

$ sudo nvidia-docker run --rm -v 宿主机目录:docker内部目录 -p 8891:8888 -it test:0.1 jupyter notebook --allow-root -y --no-browser --ip=0.0.0.0 --config=/root/.jupyter/jupyter_notebook_config.py

此时,用网络上任意一台机器可以访问docker启动的jupyter环境:http://宿主机IP地址:8891

天池竞赛上传镜像

下面为参加阿里天池大数据比赛时上传镜像的方法:

登录阿里云:https://www.aliyun.com/product/acr?
进镜像仓库:https://cr.console.aliyun.com/cn-shanghai/instances/repositories
具体流程见: https://tianchi.aliyun.com/competition/entrance/231759/tab/174?spm=5176.12586973.0.0.547d780b0Cgnoh
创建一个镜像仓库,复制其公网地址。

在本地登录

$ sudo docker login --username=您的用户名 registry.cn-shenzhen.aliyuncs.com

上传镜像

$ sudo docker tag test:0.1 公网地址
$ sudo docker push 公网地址

问题及解决

问题一:安装证书报错

问题:运行 $ sudo add-apt-repository ppa:graphics-drivers/ppa,报错: Cannot add PPA: 'ppa:~graphics-drive/ubuntu/ppa'. ERROR:'~graphics-drive' user or team does not exist.
解决:CA证书损坏,可以通过命令 sudo apt-get install --reinstall ca-certificates修复。

问题二:显卡支持问题

问题:查看NVIDIA驱动版本: $ sudo dpkg --list | grep nvidia-* 时没有显示

解决:查看GPU型号:$ lspci| grep -i nvidia自动安装驱动:$ sudo ubuntu-drivers autoinstall

(感谢sfthejia@buu.edu.cn反馈的问题及解决方法)

posted on 2020-06-04 19:08  xieyan0811  阅读(80)  评论(0编辑  收藏  举报