多卡4090在启动服务时如果不指定显卡则多个应用可能占用一张显卡启动 需要指定环境变量指定显卡启动 如下指定第一张网卡启动,下标从0开始
# export CUDA_VISIBLE_DEVICES=0
再启动需要显卡的应用即可