并发编程(三) IO模型

五 IO模型

常用的IO模型有4种:

  • 阻塞IO
  • 非阻塞IO
  • IO多路复用
  • 异步IO

不常用的有:

  • 驱动信号

5.1 阻塞IO、非阻塞IO

  • 阻塞IO:进程不能做其他的事情
  • 非阻塞IO:等待数据无阻塞

阻塞IO

阻塞IO就是全程阻塞,其中,全程指的是等待数据和 数据从内核态拷贝到用户态。

全程阻塞就是以上两个步骤都阻塞。如图:

系统调用两个阶段:

  • wait for data:阻塞
  • copy data:阻塞

非阻塞IO

非阻塞IO是部分阻塞,
等待数据时不会阻塞,而是在固定时间内循环发起系统调用,请求不到做自己的事情,等待下次请求,
而数据从内核态拷贝到用户态还是阻塞的。如图:

系统调用两个阶段:

  • wait for data:非阻塞
  • copy data:阻塞

优点:
等待数据无阻塞

缺点:
1.系统调用发送太多
2.数据不是即时接收的

ps:socket设置socket对象.setblocking(False) 设置阻塞状态为非阻塞

5.2 IO多路复用

IO多路复用:全程阻塞,监听多个链接

系统调用两个阶段:

  • wait for data:阻塞
  • copy data:阻塞

实现IO多路复用的常用方式有:

  • select
  • poll
  • epoll

原理

基本原理:
通过select/poll/epoll函数不断轮询所负责的所有socket套接字,当某个socket套接字有数据到达,就通知用户进程。

特点:
就是单个process可以同时处理多个网络连接的IO,

ps:不同的操作系统提供的函数不同:
windows系统: select
linux系统: select、poll、epoll

select模块

系统调用通过select模块完成wait for data的工作

示例:
select监听多个socket对象(sock是socket对象),实现并发

r, w, e = select.select([sock,], [], [])  # 等待链接 
for obj in r:
	conn, addr = obj.accept()

示例升级:

inputs = [sock,] 
r, w, e = select.select(inputs, [], [])  # inputs监听有变化的套接字 inputs=[sock,conn1,conn2,...]
for obj in r:  # 第一次[sock,] 第二次[conn1,]
	if obj == sock:  # 如果返回的r = sock,说明有连接请求
		conn, addr = obj.accept()
		inputs.append(conn)  # inputs=[sock, conn1, conn2]
	else:  # 否则,可以接收数据了
		data = obj.recv(1024)

ps:关于文件描述符的tips(socket套接字)

1.每一个套接字对象的本质就是一个非零整数,不会变(fb=4)

<socket.socket fd=4, family=AddressFamily.AF_INET, type=SocketKind.SOCK_STREAM, 
proto=0, laddr=('127.0.0.1', 8080), raddr=('127.0.0.1', 51963)>

2.收发数据的时候,对于接收端而言,数据先到内核空间,然后copy到用户空间,同时内核空间的数据被清空

3.根据TCP协议,当发送端接收到接收端的确认信息后,清空内核空间的数据,否则不清空

select、poll、epoll

select:

  • 每次调用select都要将所有的fd(文件描述符),copy到你的内核空间
  • 遍历所有的fd,是否有数据访问
  • 最大连接数(1024),超出链接不再监听

ps:select的特点也是其缺点,会导致效率下降:

poll:

  • 每次调用select都要将所有的fd(文件描述符),copy到你的内核空间
  • 遍历所有的fd,是否有数据访问
  • 最大连接数没有限制

epoll:

  • 不同于select和poll只有一个函数,epoll通过三个函数实现实现轮询socket:
    • 第一个函数:创建epoll句柄:将所有的fd(文件描述符),copy到你的内核空间,只copy一次
    • 回调函数:为所有fd绑定一个回调函数,一旦有数据访问,触发回调函数,回调函数将fd放入一个链表中
    • 第三个函数:判断链表是否为空
  • epoll最大连接数没有上线

ps:回调函数
某一个函数或者某一个动作,成功完成之后,会触发的函数

selectors模块

selectors是select的升级版

selectors基于select模块实现IO多路复用,调用语句selectors.DefaultSelector()创建selecters对象,特点是根据平台自动选择最佳IO多路复用机制,调用顺序:epoll > poll > select

import selectors
import socket

sel = selectors.DefaultSelector()  # 根据平台自动选择最佳IO多路复用机制

def accept(sock, mask):
    conn, addr = sock.accept()
    sel.register(conn, selectors.EVENT_READ, read)  # 将conn和read()注册到一起,当conn有变化时执行read()

def read(conn, mask):
    try:
        data = conn.recv(1000)
        print(data.decode('utf8'))
        inputs = input('>>:').strip()
        conn.send(inputs.encode('utf8'))
    except Exception:
        sel.unregister(conn)
        conn.close()

sock = socket.socket()
sock.bind(('127.0.0.1', 8080))
sock.listen(100)
sock.setblocking(False)  # 设置为非阻塞IO

sel.register(sock, selectors.EVENT_READ, accept)  # 将sock和accept()注册到一起,当sock有变化时执行accept()

while True:
    events = sel.select()  # 监听  [(key1,mask1),(key2),(mask2)]
    for key, mask in events:
        func = key.data  # 1 key.data就是accept   # 2 key.data就是read
        obj = key.fileobj  # 1 key.fileobj就是sock   # 2 key.fileobj就是conn

        func(obj, mask)  # 1 accept(sock,mask)   # 2read(conn,mask)
    

5.3 同步IO、异步IO

同步IO

只要系统调用中存在阻塞就是同步IO,
所以,阻塞IO、非阻塞IO、IO多路复用都是同步IO

异步IO

全程无阻塞,实现复杂

系统调用两个阶段:

  • wait for data:非阻塞
  • copy data:非阻塞
posted @ 2017-05-10 14:44  六神酱  阅读(156)  评论(0编辑  收藏  举报