指定程序使用的GPU的设备号

当主机上有多张GPU卡,可以通过如下方式设置代码main.py使用哪几张GPU卡来运行

import os 
os.environ['CUDA_DEVICE_ORDER'] = "PCI_BUS_ID"  # 将cuda GPU调用顺序与nvidia-smi 显示顺序统一 
os.environ['CUDA_VISIBLE_DEVICES'] = "0,1,2"  # 设定使用0,1,2号GPU卡

然后执行命令python main.py即可

注意,上述两行代码要作为main.py的第1、2行,以确保main.py在import其它包的时候,不会使用到其它的GPU卡。

posted @ 2023-12-19 22:37  Bill_H  阅读(73)  评论(0编辑  收藏  举报