如果您在创建GPU计算型实例时没有配置自动安装GPU驱动,或者在公共镜像中没有您需要的操作系统或版本,为保证您能正常使用您创建的GPU实例,请在创建后手动安装驱动。本文为您介绍如何为Linux操作系统的GPU实例手动安装GPU驱动。
背景信息
GPU实例仅支持安装与其操作系统一致的GPU驱动。本文重点为您介绍手动安装Linux操作系统的GPU驱动的相关操作。如果您创建的GPU实例为Windows操作系统,请参见在GPU计算型实例中安装GPU驱动(Windows),根据指导安装Windows操作系统的GPU驱动。
操作步骤
- 访问NVIDIA驱动下载。
- 手动查找适用的驱动程序。
- 根据实例规格配备的GPU选择对应的产品类型、产品系列和产品家族。查看实例规格信息的具体操作,请参见查看实例信息。
各GPU计算型规格的GPU信息如下表所示:
信息项 | gn4 | gn5 | gn5i | gn6v | gn6i | gn6e | gn7 | gn7i |
产品类型 |
Data Center / Tesla |
Data Center / Tesla |
Data Center / Tesla |
Data Center / Tesla |
Data Center / Tesla |
Data Center / Tesla |
Data Center / Tesla |
Data Center / Tesla |
产品系列 |
M-Class |
P-Series |
P-Series |
V-Series |
T-Series |
V-Series |
A-Series |
A-Series |
产品家族 |
M40 |
Tesla P100 |
Tesla P4 |
Tesla V100 |
Tesla T4 |
Tesla V100 |
NVIDIA A100 |
NVIDIA A10 |
- 根据实例使用的镜像选择对应的Linux操作系统版本。
如果下拉列表中没有显示所需的操作系统,请单击下拉列表底部的选择所有操作系统。如果您未能找到与实例镜像完全匹配的Linux操作系统版本,请选择Linux 64-bit。
- 选择CUDA Toolkit版本。
- 选择语言。
- 单击搜索,然后选择需要下载的驱动版本,单击对应的驱动名称。
- 在打开驱动程序下载页面,单击下载,然后在NVIDIA驱动程序下载页面,右键单击下载并选择复制链接地址。
- 远程连接实例。
- 使用
wget
命令,并粘贴您在步骤3中复制的驱动下载链接,执行命令下载安装包。命令示例如下所示:
wget https://cn.download.nvidia.com/tesla/460.73.01/NVIDIA-Linux-x86_64-460.73.01.run
- 安装GPU驱动。
- 如果您的操作系统为CentOS,请执行以下命令,查询实例中是否安装kernel-devel和kernel-headers包。对于ubuntu等其他操作系统,已经在其中预装了kernel-devel和kernel-headers包,请跳过此步骤。
rpm -qa | grep $(uname -r)
- 如果回显类似如下信息,即包含了kernel-devel和kernel-headers包的版本信息,表示已安装。
kernel-3.10.0-1062.18.1.el7.x86_64
kernel-devel-3.10.0-1062.18.1.el7.x86_64
kernel-headers-3.10.0-1062.18.1.el7.x86_64
- 如果在回显信息中,您没有找到kernel-devel-*和kernel-headers-*内容,您需要自行下载并安装kernel对应版本的kernel-devel和kernel-headers包。
说明 kernel-devel和kernel版本不一致会导致在安装driver rpm过程中driver编译出错。因此,请您确认回显信息中kernel-*的版本号后,再下载对应版本的kernel-devel。在示例回显信息中,kernel的版本号为3.10.0-1062.18.1.el7.x86_64。
- 安装GPU驱动。
以操作系统是Linux 64-bit的驱动为例,您下载的GPU驱动为.run格式,例如:NVIDIA-Linux-x86_64-xxxx.run。分别执行以下命令,授权并安装GPU驱动。
chmod +x NVIDIA-Linux-x86_64-xxxx.run
sh NVIDIA-Linux-x86_64-xxxx.run
- 安装完成后,执行如下命令,查看是否安装成功。
回显信息类似如下所示,表示GPU驱动安装成功。

- 如果您创建的GPU实例的规格族为ebmgn7,您需要继续执行以下操作,安装与驱动版本对应的nvidia-fabricmanager服务,否则,将无法正常使用GPU实例。
- 安装nvidia-fabricmanager服务。
不同操作系统对应安装nvidia-fabricmanager服务的命令有所区别,具体说明如下。
以下操作均以驱动版本为460.91.03为例,您需要根据实际情况替换driver_version
后的驱动版本。
- CentOS 7.x
driver_version=460.91.03
yum -y install yum-utils
yum-config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel7/x86_64/cuda-rhel7.repo
yum install -y nvidia-fabric-manager-${driver_version}-1
- CentOS 8.x
driver_version=460.91.03
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
distribution=rhel8
ARCH=$( /bin/arch )
dnf config-manager --add-repo http://developer.download.nvidia.com/compute/cuda/repos/$distribution/${ARCH}/cuda-$distribution.repo
dnf module enable -y nvidia-driver:${driver_version_main}
dnf install -y nvidia-fabric-manager-0:${driver_version}-1
- Ubuntu 16.04或Ubuntu 18.04
driver_version=460.91.03
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/cuda-$distribution.pin
mv cuda-$distribution.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/7fa2af80.pub
apt-key add 7fa2af80.pub
rm 7fa2af80.pub
echo "deb http://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | tee /etc/apt/sources.list.d/cuda.list
apt-get update
apt-get -y install nvidia-fabricmanager-${driver_version_main}=${driver_version}-*
- Ubuntu 20.04
driver_version=460.91.03
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
apt-get update
apt-get -y install nvidia-fabricmanager-${driver_version_main}=${driver_version}-*
- 执行如下命令,启动nvidia-fabricmanager服务。
systemctl enable nvidia-fabricmanager
systemctl start nvidia-fabricmanager
- 执行如下命令,查看nvidia-fabricmanager服务状态。
systemctl status nvidia-fabricmanager
如果回显信息如下所示,则表示nvidia-fabricmanager服务安装成功。

【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了