指定程序使用的GPU的设备号
当主机上有多张GPU卡,可以通过如下方式设置代码main.py使用哪几张GPU卡来运行
import os
os.environ['CUDA_DEVICE_ORDER'] = "PCI_BUS_ID" # 将cuda GPU调用顺序与nvidia-smi 显示顺序统一
os.environ['CUDA_VISIBLE_DEVICES'] = "0,1,2" # 设定使用0,1,2号GPU卡
然后执行命令python main.py
即可
注意,上述两行代码要作为main.py的第1、2行,以确保main.py在import其它包的时候,不会使用到其它的GPU卡。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY