IO多路复用

Sock(I/O 流)通过服务端Sock
第一种方法就是最传统的多进程并发模型 (每进来一个新的I/O流会分配一个新的进程管理。)
第二种方法就是I/O多路复用 (单个线程，通过记录跟踪每个I/O流(sock)的状态，来同时管理多个I/O流 。)

I/O multiplexing 这里面的 multiplexing 指的其实是在单个线程通过记录跟踪每一个Sock(I/O流)的状态(对应空管塔里面的Fight progress strip槽)来同时管理多个I/O流. 发明它的原因，是尽量多的提高服务器的吞吐能力。
在同一个线程里面， 通过拨开关的方式，来同时传输多个I/O流

select, poll, epoll 都是I/O多路复用的具体的实现
==>epoll好处:去除只能接收1024个链接限制;不会修改传入参数,指定哪个sock有哪些数据;线程安全

poll系统调用的原理
先注册回调函数__poll_wait，再初始化table变量（类型为struct poll_wqueues)，接着拷贝用户传入的struct pollfd（其实主要是fd）(瓶颈1)，然后轮流调用所有fd对应的poll（把current挂到各个fd对应的设备等待队列上）(瓶颈2)。在设备收到一条消息（网络设备）或填写完文件数据（磁盘设备）后，会唤醒设备等待队列上的进程，这时current便被唤醒了。

每次调用poll系统调用，操作系统都要把current（当前进程）挂到fd对应的所有设备的等待队列上，可以想象，fd多到上千的时候，这样“挂”法很费事；而每次调用epoll_wait则没有这么罗嗦，epoll只在epoll_ctl时把current挂一遍（这第一遍是免不了的）并给每个fd一个命令“好了就调回调函数”，如果设备有事件了，通过回调函数，会把fd放入rdllist，而每次调用epoll_wait就只是收集rdllist里的fd就可以了——epoll巧妙的利用回调函数，实现了更高效的事件驱动模型。

1.1一般步骤

Create an epoll object——创建1个epoll对象
Tell the epoll object to monitor specific events on specific sockets——告诉epoll对象，在指定的socket上监听指定的事件
Ask the epoll object which sockets may have had the specified event since the last query——询问epoll对象，从上次查询以来，哪些socket发生了哪些指定的事件
Perform some action on those sockets——在这些socket上执行一些操作
Tell the epoll object to modify the list of sockets and/or events to monitor——告诉epoll对象，修改socket列表和（或）事件，并监控
Repeat steps 3 through 5 until finished——重复步骤3-5，直到完成
Destroy the epoll object——销毁epoll对象

1.2相关用法

import select 导入select模块

epoll = select.epoll() 创建一个epoll对象

epoll.register(文件句柄,事件类型) 注册要监控的文件句柄和事件

事件类型:

　　select.EPOLLIN 可读事件

　　select.EPOLLOUT 可写事件

　　select.EPOLLERR 错误事件

　　select.EPOLLHUP 客户端断开事件

epoll.unregister(文件句柄) 销毁文件句柄

epoll.poll(timeout) 当文件句柄发生变化，则会以列表的形式主动报告给用户进程,timeout

为超时时间，默认为-1，即一直等待直到文件句柄发生变化，如果指定为1

那么epoll每1秒汇报一次当前文件句柄的变化情况，如果无变化则返回空

epoll.fileno() 返回epoll的控制文件描述符(Return the epoll control file descriptor)

epoll.modfiy(fineno,event) fineno为文件描述符 event为事件类型 作用是修改文件描述符所对应的事件

epoll.fromfd(fileno) 从1个指定的文件描述符创建1个epoll对象

epoll.close() 关闭epoll对象的控制文件描述符

1.3 例子socket客户端和服务器
#!/usr/bin/env python
#-*- coding:utf-8 -*-

import socket

#创建客户端socket对象
clientsocket = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
#服务端IP地址和端口号元组
server_address = ('127.0.0.1',8888)
#客户端连接指定的IP地址和端口号
clientsocket.connect(server_address)

while True:
#输入数据
data = raw_input('please input:')
#客户端发送数据
clientsocket.sendall(data)
#客户端接收数据
server_data = clientsocket.recv(1024)
print '客户端收到的数据：',server_data
#关闭客户端socket
clientsocket.close()

 

#!/usr/bin/env python
# -*- coding:utf-8 -*-

import socket
import select

import Queue

# 创建socket对象
serversocket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 设置IP地址复用
serversocket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
# ip地址和端口号
server_address = ("127.0.0.1", 8888)
# 绑定IP地址
serversocket.bind(server_address)
# 监听，并设置最大连接数
serversocket.listen(10)
print "服务器启动成功，监听IP：", server_address
# 服务端设置非阻塞
serversocket.setblocking(False)
# 超时时间
timeout = 10
# 创建epoll事件对象，后续要监控的事件添加到其中
epoll = select.epoll()
# 注册服务器监听fd到等待读事件集合
epoll.register(serversocket.fileno(), select.EPOLLIN)
# 保存连接客户端消息的字典，格式为{}
message_queues = {}
# 文件句柄到所对应对象的字典，格式为{句柄：对象}
fd_to_socket = {serversocket.fileno(): serversocket, }

while True:
print "等待活动连接......"
# 轮询注册的事件集合，返回值为[(文件句柄，对应的事件)，(...),....]
events = epoll.poll(timeout)
if not events:
print "epoll超时无活动连接，重新轮询......"
continue
print "有", len(events), "个新事件，开始处理......"

for fd, event in events:
socket = fd_to_socket[fd]
# 如果活动socket为当前服务器socket，表示有新连接
if socket == serversocket:
connection, address = serversocket.accept()
print "新连接：", address
# 新连接socket设置为非阻塞
connection.setblocking(False)
# 注册新连接fd到待读事件集合
epoll.register(connection.fileno(), select.EPOLLIN)
# 把新连接的文件句柄以及对象保存到字典
fd_to_socket[connection.fileno()] = connection
# 以新连接的对象为键值，值存储在队列中，保存每个连接的信息
message_queues[connection] = Queue.Queue()
# 关闭事件
elif event & select.EPOLLHUP:
print 'client close'
# 在epoll中注销客户端的文件句柄
epoll.unregister(fd)
# 关闭客户端的文件句柄
fd_to_socket[fd].close()
# 在字典中删除与已关闭客户端相关的信息
del fd_to_socket[fd]
# 可读事件
elif event & select.EPOLLIN:
# 接收数据
data = socket.recv(1024)
if data:
print "收到数据：", data, "客户端：", socket.getpeername()
# 将数据放入对应客户端的字典
message_queues[socket].put(data)
# 修改读取到消息的连接到等待写事件集合(即对应客户端收到消息后，再将其fd修改并加入写事件集合)
epoll.modify(fd, select.EPOLLOUT)
# 可写事件
elif event & select.EPOLLOUT:
try:
# 从字典中获取对应客户端的信息
msg = message_queues[socket].get_nowait()
except Queue.Empty:
print socket.getpeername(), " queue empty"
# 修改文件句柄为读事件
epoll.modify(fd, select.EPOLLIN)
else:
print "发送数据：", data, "客户端：", socket.getpeername()
# 发送数据
socket.send(msg)

# 在epoll中注销服务端文件句柄
epoll.unregister(serversocket.fileno())
# 关闭epoll
epoll.close()
# 关闭服务器socket
serversocket.close()