NVIDIA显卡如何进一步压榨性能 —— 开启单用户独享模式
开启单用户独享模式可以提高显卡利用率,但是最大的缺点就是开启后显卡中只能有一个用户的程序,其他用户的程序只能等待显卡中原有程序全部退出才可以使用显卡,因此该种模式只适合于个人电脑,不适合于服务器(没有哪个服务器只运行一个用户的程序)。
注意,下面操作需要sudo权限,开机后需要重新设置。
# ====== 启动 =========
export CUDA_VISIBLE_DEVICES=0 # 这里以GPU0为例,其他卡类似
nvidia-smi -i 0 -c EXCLUSIVE_PROCESS # 让GPU0变为独享模式。
nvidia-cuda-mps-control -d # 开启mps服务
# ====== 查看 =========
ps -ef | grep mps # 启动成功后能看到相应的进程
# ====== 停止 =========
nvidia-smi -i 0 -c DEFAULT # 让GPU恢复为默认模式。
echo quit | nvidia-cuda-mps-control # 关闭mps服务
效果:
本博客是博主个人学习时的一些记录,不保证是为原创,个别文章加入了转载的源地址,还有个别文章是汇总网上多份资料所成,在这之中也必有疏漏未加标注处,如有侵权请与博主联系。
如果未特殊标注则为原创,遵循 CC 4.0 BY-SA 版权协议。
posted on 2024-05-07 15:19 Angry_Panda 阅读(142) 评论(0) 编辑 收藏 举报