python gevent 协程
简介
- 没有切换开销。因为子程序切换不是线程切换，而是由程序自身控制，没有线程切换的开销，因此执行效率高，
- 不需要锁机制。因为只有一个线程，也不存在同时写变量冲突，在协程中控制共享资源不加锁，只需要判断状态就好了，所以执行效率比多线程高很多
Python对协程的支持还非常有限，用在generator中的yield可以一定程度上实现协程。
yield
传统的生产者-消费者模型是一个线程写消息，一个线程取消息，通过锁机制控制队列和等待，但一不小心就可能死锁。
如果改用协程，生产者生产消息后，直接通过yield跳转到消费者开始执行，待消费者执行完毕后，切换回生产者继续生产，效率极高
代码
import time def consumer(): r = '' while True: n = yield r if not n: return print('[CONSUMER] Consuming %s....' % n) r = '200 OK' def produce(c): c.next() n = 0 while n < 5: n = n + 1 print('[PRODUCER] Producing %s...' % n) r = c.send(n) print('[PRODUCER] Consumer return: %s\n' % r) c.close() if __name__=='__main__': c = consumer() produce(c)
结果
[PRODUCER] Producing 1... [CONSUMER] Consuming 1.... [PRODUCER] Consumer return: 200 OK [PRODUCER] Producing 2... [CONSUMER] Consuming 2.... [PRODUCER] Consumer return: 200 OK [PRODUCER] Producing 3... [CONSUMER] Consuming 3.... [PRODUCER] Consumer return: 200 OK [PRODUCER] Producing 4... [CONSUMER] Consuming 4.... [PRODUCER] Consumer return: 200 OK [PRODUCER] Producing 5... [CONSUMER] Consuming 5.... [PRODUCER] Consumer return: 200 OK
分析
- 首先调用c.next()启动生成器
- 然后，一旦生产了东西，通过c.send(n)切换到consumer执行
- consumer通过yield拿到消息，处理，又通过yield把结果传回
- produce拿到consumer处理的结果，继续生产下一条消息
整个过程无锁，由一个线程执行，producer和consumer写作完成任务，所以叫做协程
gevent
Python通过yield提供了对协程的基本支持，但是不完全。而第三方的gevent为Python提供了比较完善的协程支持
gevent是第三方库，通过greenlet实现协程，其基本思想是：
当一个greenlet遇到IO操作时（比如访问网络），就自动切换到其他的greenlet，等到IO操作完成，再在适当的时候切换回来继续执行。由于IO操作非常耗时，经常使程序处于等待状态，有了gevent为我们自动切换协程，就保证总有greenlet在运行，而不是等待IO。
import gevent def f(n): for i in range(n): print gevent.getcurrent(), i g1 = gevent.spawn(f, 5) g2 = gevent.spawn(f, 5) g3 = gevent.spawn(f, 5) g1.join() g2.join() g3.join()
结果
<Greenlet at 0x7f7216efbe10: f(5)> 0 <Greenlet at 0x7f7216efbe10: f(5)> 1 <Greenlet at 0x7f7216efbe10: f(5)> 2 <Greenlet at 0x7f7216efbe10: f(5)> 3 <Greenlet at 0x7f7216efbe10: f(5)> 4 <Greenlet at 0x7f720f54e0f0: f(5)> 0 <Greenlet at 0x7f720f54e0f0: f(5)> 1 <Greenlet at 0x7f720f54e0f0: f(5)> 2 <Greenlet at 0x7f720f54e0f0: f(5)> 3 <Greenlet at 0x7f720f54e0f0: f(5)> 4 <Greenlet at 0x7f720f54e190: f(5)> 0 <Greenlet at 0x7f720f54e190: f(5)> 1 <Greenlet at 0x7f720f54e190: f(5)> 2 <Greenlet at 0x7f720f54e190: f(5)> 3 <Greenlet at 0x7f720f54e190: f(5)> 4
可以看出3个greenlet依次运行，而不是交替运行
要让greenlet交替运行，可以通过gevent.sleep()交出控制权
import gevent def f(n): for i in range(n): print gevent.getcurrent(), i gevent.sleep(1) g1 = gevent.spawn(f, 3) g2 = gevent.spawn(f, 3) g3 = gevent.spawn(f, 3) g1.join() g2.join() g3.join()
结果
<Greenlet at 0x7f74e2179e10: f(3)> 0 <Greenlet at 0x7f74da7cb0f0: f(3)> 0 <Greenlet at 0x7f74da7cb190: f(3)> 0 <Greenlet at 0x7f74e2179e10: f(3)> 1 <Greenlet at 0x7f74da7cb0f0: f(3)> 1 <Greenlet at 0x7f74da7cb190: f(3)> 1 <Greenlet at 0x7f74e2179e10: f(3)> 2 <Greenlet at 0x7f74da7cb0f0: f(3)> 2 <Greenlet at 0x7f74da7cb190: f(3)> 2
可以看出3个greenlet是交替执行
如果把循环改为1000，让执行次数执行时间长些，查看进程，可以看到线程只有一个。
当然，实际代码中，不可能用gevent.sleep()去切换协程，而是在执行IO操作是，gevent自动切换，参考代码如下
import gevent from gevent import monkey; monkey.patch_all() import urllib2 def f(url): print 'GET: %s' % url resp = urllib2.urlopen(url) data = resp.read() print '[%d] bytes received from %s\n' %(len(data), url) gevent.joinall([ gevent.spawn(f, 'http://www.cnblogs.com/kaituorensheng/'), gevent.spawn(f, 'https://www.python.org/'), gevent.spawn(f, 'https://www.baidu.com'), ])
执行结果
GET: http://www.cnblogs.com/kaituorensheng/ GET: https://www.python.org/ GET: https://www.baidu.com [227] bytes received from https://www.baidu.com [14667] bytes received from http://www.cnblogs.com/kaituorensheng/ [47348] bytes received from https://www.python.org/
可以看到3个url结束顺序并不是依次执行完的。
注
使用gevent，可以获得极高的并发性能，但gevent只能在Unix/Linux下运行，在Windows下不保证正常安装和运行。
由于gevent是基于IO切换的协程，所以最神奇的是，我们编写的Web App代码，不需要引入gevent的包，也不需要改任何代码，仅仅在部署的时候，用一个支持gevent的WSGI服务器，立刻就获得了数倍的性能提升。
