进程间通信（四十七）
http://www.cnblogs.com/linhaifeng/articles/7428874.html#_label6
from multiprocessing import Process import time import os class MyProcess(Process): def __init__(self, num): super(MyProcess, self).__init__() self.num = num def run(self): time.sleep(1) print(self.is_alive(), self.num, self.pid) time.sleep(1) if __name__ == "__main__": prs = [] for i in range(5): p = MyProcess(i) prs.append(i) p.start() ''' True 1 11848 True 3 14252 True 4 5512 True 2 8252 True 0 9892 '''
进程间的通信：队列，管道
进程彼此之间互相隔离，要实现进程间通信（IPC），multiprocessing模块支持两种形式：队列和管道，这两种方式都是使用消息传递的
队列：（推荐使用）
创建队列的类（底层就是以管道和锁定的方式实现）：
Queue([maxsize]):创建共享的进程队列，Queue是多进程安全的队列，可以使用Queue实现多进程之间的数据传递。
参数：
maxsize是队列中允许最大项数，省略则无大小限制。
q.put方法用以插入数据到队列中，put方法还有两个可选参数：blocked和timeout。如果blocked为True（默认值），并且timeout为正值，该方法会阻塞timeout指定的时间，直到该队列有剩余的空间。如果超时，会抛出Queue.Full异常。如果blocked为False，但该Queue已满，会立即抛出Queue.Full异常。
q.get方法可以从队列读取并且删除一个元素。同样，get方法有两个可选参数：blocked和timeout。如果blocked为True（默认值），并且timeout为正值，那么在等待时间内没有取到任何元素，会抛出Queue.Empty异常。如果blocked为False，有两种情况存在，如果Queue有一个值可用，则立即返回该值，否则，如果队列为空，则立即抛出Queue.Empty异常.
q.get_nowait():同q.get(False)
q.put_nowait():同q.put(False)
q.empty():调用此方法时q为空则返回True，该结果不可靠，比如在返回True的过程中，如果队列中又加入了项目。
q.full()：调用此方法时q已满则返回True，该结果不可靠，比如在返回True的过程中，如果队列中的项目被取走。
q.qsize():返回队列中目前项目的正确数量，结果也不可靠，理由同q.empty()和q.full()一样
其他方法：
1 q.cancel_join_thread():不会在进程退出时自动连接后台线程。可以防止join_thread()方法阻塞 2 q.close():关闭队列，防止队列中加入更多数据。调用此方法，后台线程将继续写入那些已经入队列但尚未写入的数据，但将在此方法完成时马上关闭。如果q被垃圾收集，将调用此方法。关闭队列不会在队列使用者中产生任何类型的数据结束信号或异常。例如，如果某个使用者正在被阻塞在get()操作上，关闭生产者中的队列不会导致get()方法返回错误。 3 q.join_thread()：连接队列的后台线程。此方法用于在调用q.close()方法之后，等待所有队列项被消耗。默认情况下，此方法由不是q的原始创建者的所有进程调用。调用q.cancel_join_thread方法可以禁止这种行为
应用：
''' multiprocessing模块支持进程间通信的两种主要形式:管道和队列 都是基于消息传递实现的,但是队列接口 ''' import multiprocessing q = multiprocessing.Queue(3) q.put(1) q.put(2) q.put(3) print(q.full()) print(q.get()) print(q.get()) print(q.get()) print(q.empty()) ''' True 1 2 3 True '''
生产者消费者模型
在并发编程中使用生产者和消费者模式能够解决绝大多数并发问题。该模式通过平衡生产线程和消费线程的工作能力来提高程序的整体处理数据的速度。
为什么要使用生产者和消费者模式
在线程世界里，生产者就是生产数据的线程，消费者就是消费数据的线程。在多线程开发当中，如果生产者处理速度很快，而消费者处理速度很慢，那么生产者就必须等待消费者处理完，才能继续生产数据。同样的道理，如果消费者的处理能力大于生产者，那么消费者就必须等待生产者。为了解决这个问题于是引入了生产者和消费者模式。
什么是生产者消费者模式
生产者消费者模式是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯，而通过阻塞队列来进行通讯，所以生产者生产完数据之后不用等待消费者处理，直接扔给阻塞队列，消费者不找生产者要数据，而是直接从阻塞队列里取，阻塞队列就相当于一个缓冲区，平衡了生产者和消费者的处理能力。
基于队列实现生产者消费者模型
from multiprocessing import Process, Queue import random, time, os def constumer(q): while True: res = q.get() time.sleep(random.randint(1,3)) print('[%s] constume %s' %(os.getpid(), res)) def producer(q): for i in range(5): time.sleep(random.randint(1,3)) res = "cake %s" %i q.put(res) print('[%s] produce %s' %(os.getpid(), res)) if __name__ == "__main__": q = Queue() p1 = Process(target=producer, args=(q,)) c1 = Process(target=constumer, args=(q,)) p1.start() c1.start() print("main...") ''' main... [12740] produce cake 0 [12908] constume cake 0 [12740] produce cake 1 [12908] constume cake 1 [12740] produce cake 2 [12908] constume cake 2 [12740] produce cake 3 [12908] constume cake 3 [12740] produce cake 4 [12908] constume cake 4 '''
#生产者消费者模型总结 #程序中有两类角色 一类负责生产数据（生产者） 一类负责处理数据（消费者） #引入生产者消费者模型为了解决的问题是： 平衡生产者与消费者之间的工作能力，从而提高程序整体处理数据的速度 #如何实现： 生产者<-->队列<——>消费者 #生产者消费者模型实现类程序的解耦和
此时的问题是主进程永远不会结束，原因是：生产者p在生产完后就结束了，但是消费者c在取空了q之后，则一直处于死循环中且卡在q.get()这一步。
解决方式无非是让生产者在生产完毕后，往队列中再发一个结束信号，这样消费者在接收到结束信号后就可以break出死循环
from multiprocessing import Process, Queue import random, time, os def constumer(q): while True: res = q.get() if res == None:break time.sleep(random.randint(1,3)) print('[%s] constume %s' %(os.getpid(), res)) def producer(q): for i in range(5): time.sleep(random.randint(1,3)) res = "cake %s" %i q.put(res) print('[%s] produce %s' %(os.getpid(), res)) q.put(None) if __name__ == "__main__": q = Queue() p1 = Process(target=producer, args=(q,)) c1 = Process(target=constumer, args=(q,)) p1.start() c1.start() print("main...") ''' main... [11768] produce cake 0 [11768] produce cake 1 [10528] constume cake 0 [11768] produce cake 2 [10528] constume cake 1 [10528] constume cake 2 [11768] produce cake 3 [10528] constume cake 3 [11768] produce cake 4 [10528] constume cake 4 Process finished with exit code 0 '''
#JoinableQueue([maxsize])：这就像是一个Queue对象，但队列允许项目的使用者通知生成者项目已经被成功处理。通知进程是使用共享的信号和条件变量来实现的。 #参数介绍： maxsize是队列中允许最大项数，省略则无大小限制。 #方法介绍： JoinableQueue的实例p除了与Queue对象相同的方法之外还具有： q.task_done()：使用者使用此方法发出信号，表示q.get()的返回项目已经被处理。如果调用此方法的次数大于从队列中删除项目的数量，将引发ValueError异常 q.join():生产者调用此方法进行阻塞，直到队列中所有的项目均被处理。阻塞将持续到队列中的每个项目均调用q.task_done（）方法为止
from multiprocessing import Process,JoinableQueue import time,random,os def consumer(q): while True: res=q.get() time.sleep(random.randint(1,3)) print('\033[45m%s 吃 %s\033[0m' %(os.getpid(),res)) q.task_done() #向q.join()发送一次信号,证明一个数据已经被取走了 def producer(name,q): for i in range(10): time.sleep(random.randint(1,3)) res='%s%s' %(name,i) q.put(res) print('\033[44m%s 生产了 %s\033[0m' %(os.getpid(),res)) q.join() if __name__ == '__main__': q=JoinableQueue() #生产者们:即厨师们 p1=Process(target=producer,args=('包子',q)) p2=Process(target=producer,args=('骨头',q)) p3=Process(target=producer,args=('泔水',q)) #消费者们:即吃货们 c1=Process(target=consumer,args=(q,)) c2=Process(target=consumer,args=(q,)) c1.daemon=True c2.daemon=True #开始 p_l=[p1,p2,p3,c1,c2] for p in p_l: p.start() p1.join() p2.join() p3.join() print('主') #主进程等--->p1,p2,p3等---->c1,c2 #p1,p2,p3结束了,证明c1,c2肯定全都收完了p1,p2,p3发到队列的数据 #因而c1,c2也没有存在的价值了,应该随着主进程的结束而结束,所以设置成守护进程
管道：（了解）
#创建管道的类： Pipe([duplex]):在进程之间创建一条管道，并返回元组（conn1,conn2）,其中conn1，conn2表示管道两端的连接对象，强调一点：必须在产生Process对象之前产生管道 #参数介绍： dumplex:默认管道是全双工的，如果将duplex射成False，conn1只能用于接收，conn2只能用于发送。 #主要方法： conn1.recv():接收conn2.send(obj)发送的对象。如果没有消息可接收，recv方法会一直阻塞。如果连接的另外一端已经关闭，那么recv方法会抛出EOFError。 conn1.send(obj):通过连接发送对象。obj是与序列化兼容的任意对象 #其他方法： conn1.close():关闭连接。如果conn1被垃圾回收，将自动调用此方法 conn1.fileno():返回连接使用的整数文件描述符 conn1.poll([timeout]):如果连接上的数据可用，返回True。timeout指定等待的最长时限。如果省略此参数，方法将立即返回结果。如果将timeout射成None，操作将无限期地等待数据到达。 conn1.recv_bytes([maxlength]):接收c.send_bytes()方法发送的一条完整的字节消息。maxlength指定要接收的最大字节数。如果进入的消息，超过了这个最大值，将引发IOError异常，并且在连接上无法进行进一步读取。如果连接的另外一端已经关闭，再也不存在任何数据，将引发EOFError异常。 conn.send_bytes(buffer [, offset [, size]])：通过连接发送字节数据缓冲区，buffer是支持缓冲区接口的任意对象，offset是缓冲区中的字节偏移量，而size是要发送字节数。结果数据以单条消息的形式发出，然后调用c.recv_bytes()函数进行接收 conn1.recv_bytes_into(buffer [, offset]):接收一条完整的字节消息，并把它保存在buffer对象中，该对象支持可写入的缓冲区接口（即bytearray对象或类似的对象）。offset指定缓冲区中放置消息处的字节位移。返回值是收到的字节数。如果消息长度大于可用的缓冲区空间，将引发BufferTooShort异常。
from multiprocessing import Process, Pipe def f(child_conn): data = child_conn.recv() dic = {"name": "zhangsan", "age": 18} child_conn.send(dic) print('from parent: %s' %data) if __name__ == "__main__": parent_conn, child_conn = Pipe() # 双向管道 p = Process(target=f, args=(child_conn,)) p.start() parent_conn.send("hello") data = parent_conn.recv() print('from child: %s' %data) ''' from parent: hello from child: {'age': 18, 'name': 'zhangsan'} '''
Manage
Pipe()，Queue()只是实现了数据交互，并没有实现数据共享，即一个进程去改变另一个进程的数据
from multiprocessing import Process, Manager def f(dic, li, n): dic[n] = n li.append(n) if __name__ == "__main__": with Manager() as manager: dic = manager.dict() l = manager.list() p_list = [] for i in range(5): p = Process(target=f, args=(dic, l, i)) p_list.append(p) p.start() for res in p_list: res.join() print(dic) print(l) ''' {0: 0, 1: 1, 2: 2, 3: 3, 4: 4} [4, 3, 2, 0, 1] '''
进程同步
from multiprocessing import Process, Lock import time import os def f(lock, num): lock.acquire() time.sleep(0.5) print("hello world %s" %num) lock.release() if __name__ == "__main__": lock = Lock() for i in range(10): p = Process(target=f, args=(lock, i)).start()
进程池
在利用Python进行系统管理的时候，特别是同时操作多个文件目录，或者远程控制多台主机，并行操作可以节约大量的时间。多进程是实现并发的手段之一，需要注意的问题是：
1.很明显需要并发执行的任务通常要远大于核数
2.一个操作系统不可能无限开启进程，通常有几个核就开几个进程
3.进程开启过多，效率反而会下降（开启进程是需要占用系统资源的，而且开启多余核数目的进程也无法做到并行）
例如当被操作对象数目不大时，可以直接利用multiprocessing中的Process动态成生多个进程，十几个还好，但如果是上百个，
上千个。。。手动的去限制进程数量却又太过繁琐，此时可以发挥进程池的功效。
我们就可以通过维护一个进程池来控制进程数目，比如httpd的进程模式，规定最小进程数和最大进程数...
ps：对于远程过程调用的高级应用程序而言，应该使用进程池，Pool可以提供指定数量的进程，供用户调用，
当有新的请求提交到pool中时，如果池还没有满，那么就会创建一个新的进程用来执行该请求；但如果池中的进程数已经达到规定最大值，
那么该请求就会等待，直到池中有进程结束，就重用进程池中的进程。
创建进程池的类：如果指定numprocess为3，则进程池会从无到有创建三个进程，然后自始至终使用这三个进程去执行所有任务，不会开启其他进程
Pool([numprocess [,initializer [, initargs]]]):创建进程池
1 numprocess:要创建的进程数，如果省略，将默认使用cpu_count()的值 2 initializer：是每个工作进程启动时要执行的可调用对象，默认为None 3 initargs：是要传给initializer的参数组
p.apply(func [, args [, kwargs]]):在一个池工作进程中执行func(*args,**kwargs),然后返回结果。需要强调的是：
此操作并不会在所有池工作进程中并执行func函数。如果要通过不同参数并发地执行func函数，必须从不同线程调用p.apply()函数或者使用p.apply_async() p.apply_async(func [, args [, kwargs]]):在一个池工作进程中执行func(*args,**kwargs),然后返回结果。
此方法的结果是AsyncResult类的实例，callback是可调用对象，接收输入参数。当func的结果变为可用时，将理解传递给callback。callback禁止执行任何阻塞操作，
否则将接收其他异步操作中的结果。 p.close():关闭进程池，防止进一步操作。如果所有操作持续挂起，它们将在工作进程终止前完成 P.join():等待所有工作进程退出。此方法只能在close（）或teminate()之后调用
方法apply_async()和map_async（）的返回值是AsyncResul的实例obj。实例具有以下方法
obj.get():返回结果，如果有必要则等待结果到达。timeout是可选的。如果在指定时间内还没有到达，将引发一场。如果远程操作中引发了异常，它将在调用此方法时再次被引发。
obj.ready():如果调用完成，返回True
obj.successful():如果调用完成且没有引发异常，返回True，如果在结果就绪之前调用此方法，引发异常
obj.wait([timeout]):等待结果变为可用。
obj.terminate()：立即终止所有工作进程，同时不执行任何清理或结束任何挂起工作。如果p被垃圾回收，将自动调用此函数
应用：
from multiprocessing import Pool import os, time def work(n): print("[%s] run..." %os.getpid()) time.sleep(2) return n**2 if __name__ == "__main__": p = Pool(3) # 从无到有创建3个进程，以后都是这三个进程在执行任务 res_l = [] for i in range(5): res = p.apply(work, args=(i,))#同步调用，直到本次任务执行完毕拿到res， # 等待任务work执行的过程中可能有阻塞也可能没有阻塞，但不管该任务是否存在阻塞， # 同步调用都会在原地等着，只是等的过程中若是任务发生了阻塞就会被夺走cpu的执行权限 res_l.append(res) print(res_l) ''' [8712] run... [5764] run... [2540] run... [8712] run... [5764] run... [0, 1, 4, 9, 16] '''
from multiprocessing import Pool import os, time def work(n): print("[%s] run..." %os.getpid()) time.sleep(2) return n**2 if __name__ == "__main__": p = Pool(3) # 从无到有创建3个进程，以后都是这三个进程在执行任务 res_l = [] for i in range(5): res = p.apply_async(work, args=(i,)) # #同步运行,阻塞、直到本次任务执行完毕拿到res res_l.append(res) ''' 异步apply_async用法：如果使用异步提交的任务，主进程需要使用jion， 等待进程池内任务都处理完，然后可以用get收集结果，否则，主进程结束，进程池可能还没来得及执行，也就跟着一起结束了 ''' p.close() p.join() for res in res_l: print(res.get()) #使用get来获取apply_aync的结果,如果是apply,则没有get方法,因为apply是同步执行,立刻获取结果,也根本无需get ''' [11768] run... [8792] run... [3784] run... [11768] run... [8792] run... 0 1 4 9 16 '''
使用进程池维护固定数目的进程
from socket import * from multiprocessing import Pool import os sk = socket(AF_INET, SOCK_STREAM) sk.setsockopt(SOL_SOCKET, SO_REUSEADDR, 1) sk.bind(('127.0.0.1', 8080)) sk.listen(5) def work(conn, addr): print("进程id：[%s] " %os.getpid()) while True: try: data = conn.recv(1024) if not data:break print("from client : ", data.decode('utf-8')) conn.send(data.upper()) except Exception as e: print(e) break if __name__ == "__main__": p = Pool() while True: conn, addr = sk.accept() p.apply_async(work, args=(conn,addr))
from socket import * sk_client = socket(AF_INET, SOCK_STREAM) sk_client.connect_ex(("127.0.0.1", 8080)) while True: msg = input("===>").strip() if not msg:continue sk_client.sendall(msg.encode('utf-8')) ret = sk_client.recv(1024) print("from server: ", ret.decode('utf-8'))
回调函数
回调函数：某个动作或函数执行成功之后再去执行的函数，由主进程调用
需要回调函数的场景：进程池中任何一个任务一旦处理完了，就立即告知主进程：我好了额，你可以处理我的结果了。主进程则调用一个函数去处理该结果，该函数即回调函数
我们可以把耗时间（阻塞）的任务放到进程池中，然后指定回调函数（主进程负责执行），这样主进程在执行回调函数时就省去了I/O的过程，直接拿到的是任务的结果。
from multiprocessing import Process, Pool import time import os def foo(num): print("pid[%s] :sub %s" %(os.getpid(),num)) time.sleep(1) return "hello %s"%num def back(arg): print("pid[%s] :callback--> %s" %(os.getpid(), arg)) if __name__ == "__main__": p = Pool(3) print("pid[%s] :main" %(os.getpid())) for i in range(9): p.apply_async(foo, args=(i,), callback=back) p.close() p.join() ''' pid[16912] :main pid[2556] :sub 0 pid[8056] :sub 1 pid[7992] :sub 2 pid[2556] :sub 3 pid[16912] :callback--> hello 0 pid[8056] :sub 4 pid[16912] :callback--> hello 1 pid[7992] :sub 5 pid[16912] :callback--> hello 2 pid[2556] :sub 6 pid[16912] :callback--> hello 3 pid[8056] :sub 7 pid[16912] :callback--> hello 4 pid[7992] :sub 8 pid[16912] :callback--> hello 5 pid[16912] :callback--> hello 6 pid[16912] :callback--> hello 7 pid[16912] :callback--> hello 8 '''
from multiprocessing import Pool import time,random import requests import re def get_page(url,pattern): response=requests.get(url) if response.status_code == 200: return (response.text,pattern) def parse_page(info): page_content,pattern=info res=re.findall(pattern,page_content) for item in res: dic={ 'index':item[0], 'title':item[1], 'actor':item[2].strip()[3:], 'time':item[3][5:], 'score':item[4]+item[5] } print(dic) if __name__ == '__main__': pattern1=re.compile(r'<dd>.*?board-index.*?>(\d+)<.*?title="(.*?)".*?star.*?>(.*?)<.*?releasetime.*?>(.*?)<.*?integer.*?>(.*?)<.*?fraction.*?>(.*?)<',re.S) url_dic={ 'http://maoyan.com/board/7':pattern1, } p=Pool() res_l=[] for url,pattern in url_dic.items(): res=p.apply_async(get_page,args=(url,pattern),callback=parse_page) res_l.append(res) for i in res_l: i.get() # res=requests.get('http://maoyan.com/board/7') # print(re.findall(pattern,res.text))
