并发编程之协程
一、协程的介绍
协程:是单线程下的并发,一句话说明什么是线程:协程是一种用户态的轻量级线程,即协程是由用户程序自己控制调度的。
对比操作系统控制线程的切换,用户在单线程内控制协程的切换
优点:
#1. 协程的切换开销更小,属于程序级别的切换,操作系统完全感知不到,因而更加轻量级 #2. 单线程内就可以实现并发的效果,最大限度地利用cpu
缺点:
#1. 协程的本质是单线程下,无法利用多核,可以是一个程序开启多个进程,每个进程内开启多个线程,每个线程内开启协程 #2. 协程指的是单个线程,因而一旦协程出现阻塞,将会阻塞整个线程
总结协程特点:
1、必须在只有一个单线程里实现并发
2、修改共享数据不需加锁
3、用户程序里自己保存多个控制流的上下文栈
4、附加:一个协程遇到IO操作自动切换到其它协程(如何实现检测IO,yield、greenlet都无法实现,就用到了gevent模块(select机制))
协程的实现:
import time def task(): while True: print("task1") time.sleep(4) yield 1 def task2(): g = task() while True: try: print("task2") next(g) except Exception: print("任务完成") break task2()
应用场景:
TCP 多客户端实现方式 1.来一个客户端就来一个进程 资源消耗较大 2.来一个客户端就来一个线程 也不能无限开 3.用进程池 或 线程池 还是一个线程或进程只能维护一个连接 4.协程 一个线程就可以处理多个客户端 遇到io就切到另一个
二、greenlet模块
import greenlet import time def task1(): print("task1 1") time.sleep(2) g2.switch() print("task1 2") g2.switch() def task2(): print("task2 1") g1.switch() print("task2 2") g1 = greenlet.greenlet(task1) g2 = greenlet.greenlet(task2) g1.switch() # 1.实例化greenlet得到一个对象 传入要执行的任务 # 至少需要两个任务 # 2.先让某个任务执行起来 使用对象调用switch # 3.在任务的执行过程中 手动调用switch来切换
greenlet只是提供了一种比generator更加便捷的切换方式,当切到一个任务执行时如果遇到io,那就原地阻塞,仍然是没有解决遇到IO自动切换来提升效率的问题。
单线程里的多个任务的代码通常会既有计算操作又有阻塞操作,我们完全可以在执行任务1时遇到阻塞,就利用阻塞的时间去执行任务2。。。。如此,才能提高效率,这就用到了Gevent模块。
三、gevent模块
Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度。
from gevent import monkey monkey.patch_all() import gevent import time def eat(): print('eat food 1') time.sleep(2) # gevent.sleep(1) print('eat food 2') def play(): print('play 1') time.sleep(1) # gevent.sleep(1) print('play 2') g1=gevent.spawn(eat) g2=gevent.spawn(play) # g1.join() # g2.join() gevent.joinall([g1,g2]) print('主') # 1.spawn函数传入你的任务 # 2.调用join 去开启任务 # 3.检测io操作需要打monkey补丁 就是一个函数 在程序最开始的地方调用它
练习:
使用协程完成TCP套接字编程 支持多客户端同时访问
![](https://images.cnblogs.com/OutliningIndicators/ContractedBlock.gif)
import gevent from gevent import monkey monkey.patch_all() import socket server = socket.socket() # 重用端口 server.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) server.bind(("127.0.0.1",9999)) server.listen(5) def data_handler(conn): print("一个新连接..") while True: data = conn.recv(1024) conn.send(data.upper()) while True: conn,addr = server.accept() # 切到处理数据的任务去执行 gevent.spawn(data_handler,conn)
![](https://images.cnblogs.com/OutliningIndicators/ContractedBlock.gif)
import socket c = socket.socket() c.connect(("127.0.0.1",9999)) while True: msg = input(">>>:") if not msg:continue c.send(msg.encode("utf-8")) data = c.recv(1024) print(data.decode("utf-8"))
Time the study pain is temporary,has not learned the pain is life-long.