使用docker来配置pycharm开发和训练环境
本文主要介绍使用docker＋pycharm方式来搭建pytoch训练平台
操作流程如下：
一、宿主机docker环境安装
可参考该链接：NVidia-Docker2安装与常用命令
二、新建Docker镜像
有两种方式：
１、直接新建Ｄockerfile的方式生成
1)新建一个Dockerfile文件
ARG CUDA="11.0" ARG CUDNN="8" FROM nvidia/cuda:${CUDA}-cudnn${CUDNN}-devel-ubuntu16.04 RUN echo 'debconf debconf/frontend select Noninteractive' | debconf-set-selections # install basics RUN apt-get update -y \ && apt-get install -y apt-utils git curl ca-certificates bzip2 cmake tree htop bmon iotop g++ \ && apt-get install -y libglib2.0-0 libsm6 libxext6 libxrender-dev # Install Miniconda RUN curl -so /miniconda.sh https://repo.continuum.io/miniconda/Miniconda3-latest-Linux-x86_64.sh \ && chmod +x /miniconda.sh \ && /miniconda.sh -b -p /miniconda \ && rm /miniconda.sh ENV PATH=/miniconda/bin:$PATH # Create a Python 3.6 environment RUN /miniconda/bin/conda install -y conda-build \ && /miniconda/bin/conda create -y --name py36 python=3.6.7 \ && /miniconda/bin/conda clean -ya ENV CONDA_DEFAULT_ENV=py36 ENV CONDA_PREFIX=/miniconda/envs/$CONDA_DEFAULT_ENV ENV PATH=$CONDA_PREFIX/bin:$PATH ENV CONDA_AUTO_UPDATE_CONDA=false RUN conda install -y ipython RUN pip install requests ninja yacs cython matplotlib opencv-python tqdm # Install PyTorch 1.0 Nightly ARG CUDA RUN conda install pytorch-nightly cudatoolkit=${CUDA} -c pytorch \ && conda clean -ya # Install TorchVision master RUN git clone https://github.com/pytorch/vision.git \ && cd vision \ && python setup.py install # install apex RUN git clone https://github.com/NVIDIA/apex.git \ && cd apex \ && python setup.py install --cuda_ext --cpp_ext # install PyTorch Detection ARG FORCE_CUDA="1" ENV FORCE_CUDA=${FORCE_CUDA} RUN mkdir workspace WORKDIR /workspace
2)使用dockerfile生成一个新镜像，注意最后一个点
sudo docker build -t pc2mx_orig:v0.1 .
２、采用下载基本ubuntu镜像方式生成
三、安装Pycharm
这里需要注意的是：pycharm 2020.2月之前的版本都不支持docker配置，下载2020.3版链接：https://www.jetbrains.com/pycharm/download/#section=linux
四、配置docker环境
第一步：
新建目录：mkdir /etc/systemd/system/docker.service.d
新建文件：sudo nano /etc/systemd/system/docker.service.d/http-proxy.conf
[Service] ExecStart= ExecStart = /usr/bin/dockerd -H tcp:0.0.0.0:2375 unix:///var/run/docker.sock
第二步：
刷新配置：sudo systemctl daemon-reload
重启docker守护进程：sudo systemctl restart docker
第三步：启动pycharm
目前pycharm 2020.3版本以上才支持docker配置
需使用sudo权限打开，否则会出现连接不上unix:///var/run/docker.sock的问题
sudo ./pycharm.sh
配置pycharm：
1)File-> Settings ->Build,Execution,Deployment->Docker; Connect to Docker daemon with:选择unix socket
2)File->Settings-> Project-> Python Interpreter->Add ->Dokcer-> ImageName:选择镜像名
3)Run->Edit Configuration
配置Environment variables,Python InterpreterkWorking directory,Docker container settings.
第四步：运行pycharm程序
如果docker中安装了所有工程需要的包，就可以正常工作了。一般情况下，总会缺少一些包：）
问题１：
如果缺少相应包，如：ModuleNotFoundError: No module named 'scipy'
解决方法：
１．在docker环境中安装scipy: pip install scipy （此时，直接运行pycharm程序还是会报错，因为新安装的配置不会立即更新）
2. 保存当前容器为新镜像，以免丢失新安装的配置:sudo docker commit -a "jimchen" CONTAINER_ID NEW_IMAGE_ID
更多docker使用方法见该链接：Docker常用操作
３．重新配置pycharm到该新镜像
pip install matplotlib, opencv-python,
问题２：
docker环境安装了cuda,但本地没有安装cuda
AssertionError:
Found no NVIDIA driver on your system. Please check that you
have an NVIDIA GPU and installed a driver from
http://www.nvidia.com/Download/index.aspx
解决方法：
pycharm-> Run/Debug configuration->Docker container settings
添加 --gpus all #使用docker中配置的cuda环境
-v local_dir(绝对路径):docker_dir(绝对路径) #映射本地目录到docker目录
问题３：
数据集路径找不到，加载失败
解决方法：
pycharm-> Run/Debug configuration->Ｗorking directory
设置工作目录为映射到docker的目录：local_dir(绝对路径)，并把数据集存放在当前目录
问题４：
共享内存不足：ERROR: Unexpected bus error encountered in worker. This might be caused by insufficient shared memory (shm).
解决方法：
pycharm-> Run/Debug configuration->Docker container settings
添加配置项：--shm-size 8G（16G）,设置多大视当前训练环境的硬件配置而定。
问题５：
docker 环境里默认python为版本3.6,而pytorch需要使用的是python3.8版，在配置pycharm时，碰到如下问题：
Error response from daemon: OCI runtime create failed: container_linux.go:349 : starting container process caused “exec: \“python\”: executable file not found in $PATH”: unknown
解决方法：
sudo ln -s /usr/bin/python3.８ /usr/bin/python ＃设置python3.8为默认版本
问题6：
在docker里安装了很多软件，但是在pycharm中选择好相应的docker镜像后就是看不到所安装的软件
解决方法：
在pycharm菜单，File->Settings->Python Interpreter里，点击右侧add ,出现add python interpreter界面，选择Docker一栏，然后在右边分别选择Docker，已经做好的Docker镜像，和python路径，这里要注意：该路径为docker中的python绝对路径。如果不填，就会出现上面现象，装了再多的软件，在列表中也显示不出来。
问题7：
配置好环境后，运行训练脚本，报如下错误：5089d32082ed:/miniconda3/bin/python -u /workspace/DL_Arch_Main/work/MDC_DSL/script_training.py
/miniconda3/bin/python: /miniconda3/bin/python: cannot execute binary file
解决方法：
打开菜单Run->Run/Debug Configurations，在Docker container settings中，打开编辑窗口，加入选项：--entrypoint=
