NVIDIA显卡如何进一步压榨性能 —— 开启单用户独享模式

开启单用户独享模式可以提高显卡利用率,但是最大的缺点就是开启后显卡中只能有一个用户的程序,其他用户的程序只能等待显卡中原有程序全部退出才可以使用显卡,因此该种模式只适合于个人电脑,不适合于服务器(没有哪个服务器只运行一个用户的程序)。



注意,下面操作需要sudo权限,开机后需要重新设置。

# ====== 启动 =========
export CUDA_VISIBLE_DEVICES=0         # 这里以GPU0为例,其他卡类似
nvidia-smi -i 0 -c EXCLUSIVE_PROCESS  # 让GPU0变为独享模式。
nvidia-cuda-mps-control -d            # 开启mps服务 
# ====== 查看 =========
ps -ef | grep mps                     # 启动成功后能看到相应的进程
# ====== 停止 =========
nvidia-smi -i 0 -c DEFAULT       # 让GPU恢复为默认模式。
echo quit | nvidia-cuda-mps-control   # 关闭mps服务     


效果:

image



posted on 2024-05-07 15:19  Angry_Panda  阅读(142)  评论(0编辑  收藏  举报

导航