GPU排队脚本,当GPU空闲就触发脚本
本文为解决GPU计算资源充分利用,避免经常去查看GPU是否空闲,通过脚本检测GPU使用情况,当GPU利用率较低时来跑其他实验
首先新建一个py文件,将代码复制到文件中,对cmd的值表示我们需要执行的程序实验:
import os import sys import time cmd = 'CUDA_VISIBLE_DEVICES=0 nohup bash ../run.sh --stage 6' #当GPU空闲时需要跑的脚本 def gpu_info(): gpu_status = os.popen('nvidia-smi | grep %').read().split('|') #根据nvidia-smi命令的返回值按照'|'为分隔符建立一个列表 ''' 结果如: ['', ' N/A 64C P0 68W / 70W ', ' 9959MiB / 15079MiB ', ' 79% Default ', '\n', ' N/A 73C P0 108W / 70W ', ' 11055MiB / 15079MiB ', ' 63% Default ', '\n', ' N/A 60C P0 55W / 70W ', ' 3243MiB / 15079MiB ', ' 63% Default ', '\n'] ''' gpu_memory = int(gpu_status[2].split('/')[0].split('M')[0].strip()) #获取当前0号GPU功率值:提取标签为2的元素,按照'/'为分隔符后提取标签为0的元素值再按照'M'为分隔符提取标签为0的元素值,返回值为int形式 gpu_power = int(gpu_status[1].split(' ')[-1].split('/')[0].split('W')[0].strip()) #获取0号GPU当前显存使用量 gpu_util = int(gpu_status[3].split(' ')[1].split('%')[0].strip()) #获取0号GPU显存核心利用率 return gpu_power, gpu_memory, gpu_util def narrow_setup(secs=600): #间隔十分钟检测一次 gpu_power, gpu_memory, gpu_util = gpu_info() i = 0 while not(gpu_memory < 1000 and gpu_power < 20 and gpu_util < 20) : # 当功率,使用量,利用率都小于特定值才去退出循环 gpu_power, gpu_memory, gpu_util = gpu_info() i = i % 5 symbol = 'monitoring: ' + '>' * i + ' ' * (10 - i - 1) + '|' gpu_power_str = 'gpu power:%d W |' % gpu_power gpu_memory_str = 'gpu memory:%d MiB |' % gpu_memory gpu_util_str = 'gpu util:%d %% |' % gpu_util sys.stdout.write('\r' + gpu_memory_str + ' ' + gpu_power_str + ' ' + gpu_util_str + ' ' + symbol) #sys.stdout.write(obj+'\n')等价于print(obj) sys.stdout.flush() #刷新输出 time.sleep(secs) #推迟调用线程的运行,通过参数指秒数,表示进程挂起的时间。 i += 1 print('\n' + cmd) os.system(cmd) #执行脚本 if __name__ == '__main__': narrow_setup()
程序在后台运行:
https://www.cnblogs.com/Uriel-w/p/16035125.html
来源:https://blog.csdn.net/leviopku/article/details/102958166