用进程池创建子进程
进程少时,手动单个创建进程;
进程多时,用进程池创建进程。
用进程池创建子进程
from multiprocessing import Pool import os, time, random def worker(msg): t_start = time.time() print("%s开始执行,进程号为%d" % (msg, os.getpid())) # random.random()随机生成0~1之间的浮点数 time.sleep(random.randrange(3,5)) t_stop = time.time() print(msg, "执行完毕,耗时%0.2f" % (t_stop - t_start)) if __name__ == '__main__': po = Pool(3) # 定义一个进程池,最大进程数3 for i in range(0, 10): po.apply_async(worker, (i,)) print("----start----") po.close() # 关闭进程池,关闭后po不再接收新的请求 po.join() # 等待po中所有子进程执行完成,必须放在close语句之后 print("-----end-----")
multiprocessing.Pool常用函数解析:
-
apply_async(func[, args[, kwds]]) :使用非阻塞方式调用func(并行执行,堵塞方式必须等待上一个进程退出才能执行下一个进程),args为传递给func的参数列表,kwds为传递给func的关键字参数列表;
-
apply(func[, args[, kwds]]):使用阻塞方式调用func
-
close():关闭Pool,使其不再接受新的任务;
-
terminate():不管任务是否完成,立即终止;
-
join():主进程阻塞,等待子进程的退出, 必须在close或terminate之后使用;
po.close() # 关闭进程池,关闭后po不再接收新的请求 po.join() # 等待po中所有子进程执行完成,必须放在close语句之后
进程池必须关闭了,子进程才能开始执行。
进程池,就是主进程所在的地方,必须等待,否则进程池(主进程)不会等待子进程执行,就即开始终止所有子进程。
在win中,进程池必须创建到
if __name__ == '__main__':中去
案例:进程池拷贝文件夹
import os from multiprocessing import Pool, Manager def copy_file(q, file_name, old_folder_name, new_folder_name): # print(f"=========>模拟copy文件:从{old_folder_name}——>到{new_folder_name} 文件名:{file_name}") # 读文件 old_f = open(old_folder_name + os.sep + file_name, 'rb') content = old_f.read() old_f.close() # 写文件 new_f = open(new_folder_name + os.sep + file_name, 'wb') new_f.write(content) new_f.close() # 拷贝完成,写个消息放队列 q.put(file_name) def main(): # 1 获取用户要copy的文件夹名字 old_folder_name = input("要复制的文件夹名称:") # 2 创建一个新的文件夹 new_folder_name = old_folder_name + "[副本]" try: os.mkdir(new_folder_name) except: pass # 3 获取文件夹所有待copy的文件名字 listdir() file_names = os.listdir(old_folder_name) # print(file_names) print(len(file_names)) # 4 创建进程池 po = Pool(10) # 5 创建队列 q = Manager().Queue() # 6 复制原文件夹中的文件到新文件中去 for file_name in file_names: po.apply_async(copy_file, args=(q, file_name, old_folder_name, new_folder_name)) po.close() # po.join() all_file_num = len(file_names) copy_ok_num = 0 while True: file_name = q.get() # print(f"已经copy:{file_name}") copy_ok_num += 1 print("%04d 拷贝进度:%.f %%" % (copy_ok_num, copy_ok_num * 100 / all_file_num)) if copy_ok_num >= all_file_num: print("全部copy完成") break pass pass if __name__ == '__main__': main()