远程GPU服务器环境配置

miniconda 环境

在Linux系统中安装Miniconda通常涉及以下几个步骤:

步骤1:下载Miniconda安装脚本

可以从官方或者镜像站点下载Miniconda的Linux版本。这里提供一个通用的镜像站点下载命令,可以根据实际情况选择适合自己的Miniconda版本和架构:

wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-x86_64.sh

步骤2:赋予安装脚本执行权限

chmod +x Miniconda3-latest-Linux-x86_64.sh

步骤3:运行安装脚本

./Miniconda3-latest-Linux-x86_64.sh

执行脚本后,会启动安装程序,它将引导您完成安装过程:

  • 阅读许可协议,滚动到底部后按q退出阅读,然后输入yes接受协议。
  • 输入安装路径(可选,默认路径一般为/home/用户名/miniconda3)。恒源云中修改至/hy-tmp/conda/miniconda3。
  • 是否将Miniconda的bin目录添加到PATH环境变量中,建议选择yes,这样可以在终端中全局使用conda命令。

步骤4:激活安装

安装完成后,安装程序可能会提示你是否立即初始化conda,输入yes。或者,你也可以手动激活更改,这通常涉及到关闭并重新打开终端窗口。

步骤5:配置国内镜像加速(可选)

为了加速后续的包下载,可以配置国内的conda软件源。例如,切换至阿里云镜像源:

conda镜像

conda config --add channels https://mirrors.ustc.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/conda-forge/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/msys2/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/bioconda/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/menpo/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/
conda config --set show_channel_urls yes

删除镜像

conda config --show channels
conda config --remove channels <channel_url>

pip镜像

要将Miniconda的pip安装镜像配置为清华镜像,你需要执行以下步骤:

首先,你需要在你的系统中打开命令行终端(在Windows上是CMD或PowerShell,在Mac或Linux上是Terminal)。

然后,使用以下命令将清华镜像源添加到pip的配置文件中。请根据你的操作系统选择相应的命令:

对于Unix-like系统(包括MacOS和Linux):

mkdir -p ~/.pip
echo -e "[global]\nindex-url = https://pypi.mirrors.ustc.edu.cn/simple" > ~/.pip/pip.conf

对于Windows系统:

echo "[global]" >> %USERPROFILE%\pip\pip.ini
echo "index-url = https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple" >> %USERPROFILE%\pip\pip.ini

以上命令会在你的用户目录下创建或修改pip的配置文件,将默认的pip源替换为清华镜像源。

最后,你可以通过运行pip --version来检查是否成功更改了pip的源。如果配置正确,你应该能看到新的镜像源地址。

单次下载使用pip清华镜像

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple some-package

其他镜像

步骤6:验证安装

重新打开终端后,检查conda是否安装成功:

conda --version

如果返回了conda的版本号,说明安装成功并且已经可以正常使用。

步骤7:修改环境安装路径

conda环境路径

Miniconda 和 Anaconda 都使用 conda 命令行工具来管理虚拟环境,包括设置虚拟环境的默认安装路径。要修改Miniconda下虚拟环境的默认安装路径,请按照以下步骤操作:

  1. 打开命令提示符或终端(确保已激活Miniconda的环境)。

  2. 使用 conda config 命令来添加或修改环境目录(envs_dirs)的路径。例如,如果你想将虚拟环境安装到 D:\software\python\envs,运行:

    conda config --add envs_dirs /hy-tmp/conda/envs
    

    如果你想移除原有的某个路径,可以使用 --remove 参数:

    conda config --remove envs_dirs C:\path\to\default\envs
    
  3. 若要检查配置是否生效,可以运行:

    conda config --show envs_dirs
    

    这将会显示出conda配置中envs_dirs列表的内容,确认你刚刚设置的新路径是否包含在内且处于合适的位置。

  4. 保存这些配置变化。Conda会自动更新.condarc配置文件(位于Miniconda的安装目录或者用户的主目录下),确保新的路径设置会被持久化存储。

  5. 从现在开始,当你创建新的虚拟环境时,它们应该会默认安装在你指定的新路径下。

注意:

  • 使用正斜杠 / 或反斜杠 \ 都是可以的,在Windows系统下,建议统一使用反斜杠 \ 并且可能需要转义成双反斜杠 \\
  • 如果要完全改变默认路径而非增加额外路径,可能需要先删除默认路径,然后再添加新路径。同时,确保新路径存在并且conda具有足够的权限进行写入操作。

pip缓存路径

修改配置文件
pip 的配置文件是一个名为 pip.ini(Windows)或 pip.conf(Unix)的文件,它通常位于用户主目录下的 .pip 文件夹中。如果该文件夹不存在,我们可以手动创建它。以下是一个示例的目录结构:

C:\Users\<Username>\.pip
└── pip.ini

在 pip.ini 中,我们可以添加一个 global 部分来设置全局的配置,或者添加一个 install 部分来设置特定项目的配置。下面是一个示例的 pip.ini 文件:

复制

[global]
cache-dir = /hy-tmp/conda/cache/pip

[install]
cache-dir = /hy-tmp/conda/cache/pip

在上面的示例中,我们将缓存目录设置为 D:\pip\Cache。通过修改配置文件,我们可以全局地或针对特定项目修改 pip 的缓存位置。

步骤8:清除安装包缓存(可选)

清除conda缓存

要清除Miniconda的包缓存,你可以使用以下命令:

conda clean --all

这个命令会删除所有未使用的缓存文件,包括:

  • 包缓存 (pkgs 目录)
  • 索引缓存
  • 锁文件
  • 未使用的缓存包的tarball文件
  • 未使用的缓存包的解压缩目录

如果你只想清除包的tarball文件,可以使用:

conda clean --tarballs

或者,如果你想删除未使用的缓存包的解压缩目录,可以使用:

conda clean --packages

使用 conda clean 命令时,你可能会看到一个提示,要求确认是否真的要删除文件。如果你想要在没有任何提示的情况下直接清除缓存,可以添加 -y 选项:

conda clean --all -y

这将自动确认所有的清除操作,而不会有任何进一步的提示。

清除pip缓存

pip cache purge

ssh端口转发

需要开放jupyter lab访问的端口时,需要进行端口转发

  • AutoDL
ssh -CNg -L 8888:127.0.0.1:8888 root@123.125.240.150 -p 42151
  • 使用秘钥的远程服务器
ssh  -CNg -L 8888:127.0.0.1:8888 -i "秘钥路径" ubuntu@服务器ip -p 22

Docker配置


docker pull pytorch/pytorch:latest

docker run --gpus all -it -p 6006:6006 -p 8888:8888 -v "D:\Model":/home/root/models  pytorch/pytorch:latest  /bin/bash
docker run --name swift-env --gpus all -it -p 6006:6006 -p 8888:8888 pytorch/pytorch:latest /bin/bash


测试GPU环境

pytorch

import torch

# 检查是否有GPU可用
if torch.cuda.is_available():
    print("GPU is available!")
else:
    print("GPU is not available, using CPU.")

tensorflow

import tensorflow as tf

# 检查是否有GPU
if tf.test.is_gpu_available():
    print("GPU is available!")

else:
    print("GPU is not available, using CPU.")
posted @ 2024-02-27 14:39    阅读(187)  评论(0编辑  收藏  举报