服务器编程基本框架
虽然服务器程序种类繁多,但其基本框架都一样,不同之处在于逻辑处理
模块 | 功能 |
---|---|
I/O 处理单元 | 处理客户连接,读写网络数据 |
逻辑单元 | 业务进程或线程 |
网络存储单元 | 数据库、文件或缓存 |
请求队列 | 各单元之间的通信方式 |
IO处理单元:主要是服务器管理客户链接的模块,它通常完成以下工作:等待并接受新的客户链接,接受客户数据,将服务器响应返回给客户端,但是数据的收发不一定在IO处理单元中执行,也可能在逻辑单元中执行,具体何时处置取决于事件处理模式。
逻辑单元:一个逻辑单元通常是一个进程或者是线程,他分析并处理客户数据,然后将结果传递给IO处理单元或者直接发送给客户端(具体使用哪种方式取决于时间的处理模式)
网络存储单元:可以是数据库,缓存和文件,但不是必须的
请求队列:各个单元之间通信方式的抽象。IO处理单元接受到用户请求,需要以某种方式来通知一个逻辑单元来处理请求,同样多个逻辑单元同时访问一个存储单元时候,也需要采用某些机制来处理竞争。请求队列通常被实现为池的一部分。
两种高效的事件处理模式
服务器程序通常要处理三类事件,IO事件,信号,定时事件。有两种高效的事件处理Reatcor和proactor,同步IO模型通常用于实现Reactor模式,异步IO模型通常用来实现Proactor模式
Reactor模式
要求主线程(IO处理单元)只负责监听文件描述符上是否有事件发生有的话就立即将该事件通知工作线程(逻辑单元)将socket可读可写事件放入请求队列,交给工作线程处理,此外主线程不做任何实质性的工作,读写数据,接受新的链接,以及处理客户请求均在工作线程中完成。
使用同步 I/O(以 epoll_wait 为例)实现的 Reactor 模式的工作流程是:
1.主线程往epoll内核事件表中注册socket上的读就绪事件。
2.主线程调用epoll_wait等待socket上有数据可读
3.当socket上有数据可读时,epoll_wait通知主线程。主线程则将socket可读事件放入请求队列中。
4.睡眠在请求队列上的某个工作线程被唤醒,他从socket上读取数据,并处理客户请求,然后往epoll内核事件表中注册该socket的写就绪事件。
5.当主线程调用epoll_wait等待socket可写。
6.当socket可写时,epoll_wait通知主线程。主线程将socket可写事件放入请求队列。
7. 睡眠在请求队列上的某个工作线程被唤醒,它往 socket 上写入服务器处理客户请求的结果。
大体上就是主线程监听都就绪和写就绪事件,当有事件可读,告诉工作线程,读完之后告诉主线程可以去写了,然后主线程找一个工作线程去写。工作线程负责读写和业务逻辑
reactor模式的工作流程
Proactor模式
poractor模式将所有IO操作都交给主线程和内核处理(进行读写),工作线程仅仅只负责业务逻辑,使用异步IO模型(以aio_read和aio_write)为例,实现的Proactor工作流程如下:
1.主线程调用aio_read函数向内核注册socket上的读完成事件,并告诉内核用户读缓冲区的位置,以及读操作完成时候如何通知应用程序(可以是信号)
2.主线程继续处理其他逻辑
3.当socket上的数据内读入用户缓冲区后,内核将向应用程序发送一个信号,以通知应用程序数据已经可用。
4.应用程序预先定义好的信号处理函数选择一个工作线程来处理客户请求。工作线程完成客户请求后,调用aio_write函数向内核注册socket上的写完成事件,并告诉内核写缓冲区的位置,以及操作完成如何通知应用程序。
5.主线程继续处理其他业务逻辑。
6.当用户缓冲区的数据被写入socket之后,内核将向应用程序发送一个信号,以通知应用程序数据已经发送完毕。
7.应用程序预先定义好的信号处理函数选择一个工作线程来做善后处理,比如决定是否关闭socket
大体上就是主线程异步读取信息,完成之后告诉工作线程,工作线程知道后处理信息并异步写入socket,完成之后告诉另一个工作线程,决定是否关闭socket。这样工作线程只负责业务逻辑