随着互联网的发展，面对海量用户高并发业务，传统的阻塞式的服务端架构模式已经无能为力，由此，本文旨在为大家提供有用的概览以及网络服务模型的比较，以揭开设计和实现高性能网络架构的神秘面纱
一、服务端处理网络请求
首先看看服务端处理网络请求的典型过程：
可以看到，主要处理步骤包括：
- 1、获取请求数据
客户端与服务器建立连接发出请求，服务器接受请求（1-3） - 2、构建响应
当服务器接收完请求，并在用户空间处理客户端的请求，直到构建响应完成（4） - 3、返回数据
服务器将已构建好的响应再通过内核空间的网络I/O发还给客户端（5-7）
设计服务端并发模型时，主要有如下两个关键点：
- 服务器如何管理连接，获取输入数据
- 服务器如何处理请求
以上两个关键点最终都与操作系统的I/O模型以及线程(进程)模型相关，下面详细介绍这两个模型
二、I/O模型
2.1 概念理论
介绍操作系统的I/O模型之前，先了解一下几个概念：
- 阻塞调用与非阻塞调用
- 阻塞调用是指调用结果返回之前，当前线程会被挂起。调用线程只有在得到结果之后才会返回
- 非阻塞调用指在不能立刻得到结果之前，该调用不会阻塞当前线程
两者的最大区别在于被调用方在收到请求到返回结果之前的这段时间内，调用方是否一直在等待。阻塞是指调用方一直在等待而且别的事情什么都不做。非阻塞是指调用方先去忙别的事情
-
同步处理与异步处理
- 同步处理是指被调用方得到最终结果之后才返回给调用方
- 异步处理是指被调用方先返回应答，然后再计算调用结果，计算完最终结果后再通知并返回给调用方
-
阻塞、非阻塞和同步、异步的区别
阻塞、非阻塞和同步、异步其实针对的对象是不一样的：
阻塞、非阻塞的讨论对象是调用者
同步、异步的讨论对象是被调用者 -
recvfrom函数
recvfrom函数(经socket接收数据)，这里把它视为系统调用
一个输入操作通常包括两个不同的阶段
- 等待数据准备好
- 从内核向进程复制数据
对于一个套接字上的输入操作，第一步通常涉及等待数据从网络中到达。当所等待分组到达时，它被复制到内核中的某个缓冲区。第二步就是把数据从内核缓冲区复制到应用进程缓冲区
实际应用程序在系统调用完成上面2步操作时，调用方式的阻塞、非阻塞，操作系统在处理应用程序请求时处理方式的同步、异步处理的不同，参考《UNIX网络编程卷1》，可以分为5种I/O模型
2.2 阻塞式I/O模型(blocking I/O）
简介
在阻塞式I/O模型中，应用程序在从调用recvfrom开始到它返回有数据报准备好这段时间是阻塞的，recvfrom返回成功后，应用进程开始处理数据报
比喻
一个人在钓鱼，当没鱼上钩时，就坐在岸边一直等
优点
程序简单，在阻塞等待数据期间进程/线程挂起，基本不会占用CPU资源
缺点
每个连接需要独立的进程/线程单独处理，当并发请求量大时为了维护程序，内存、线程切换开销较大，这种模型在实际生产中很少使用
2.3 非阻塞式I/O模型(non-blocking I/O）
简介
在非阻塞式I/O模型中，应用程序把一个套接口设置为非阻塞就是告诉内核，当所请求的I/O操作无法完成时，不要将进程睡眠，而是返回一个错误，应用程序基于I/O操作函数将不断的轮询数据是否已经准备好，如果没有准备好，继续轮询，直到数据准备好为止
比喻
边钓鱼边玩手机，隔会再看看有没有鱼上钩，有的话就迅速拉杆
优点
不会阻塞在内核的等待数据过程，每次发起的I/O请求可以立即返回，不用阻塞等待，实时性较好
缺点轮询将会不断地询问内核，这将占用大量的CPU时间，系统资源利用率较低，所以一般Web服务器不使用这种I/O模型
2.4 I/O复用模型(I/O multiplexing）
简介
在I/O复用模型中，会用到select或poll函数或epoll函数(Linux2.6以后的内核开始支持)，这两个函数也会使进程阻塞，但是和阻塞I/O所不同的的，这两个函数可以同时阻塞多个I/O操作，而且可以同时对多个读操作，多个写操作的I/O函数进行检测，直到有数据可读或可写时，才真正调用I/O操作函数
比喻
放了一堆鱼竿，在岸边一直守着这堆鱼竿，直到有鱼上钩
优点
可以基于一个阻塞对象，同时在多个描述符上等待就绪，而不是使用多个线程(每个文件描述符一个线程)，这样可以大大节省系统资源
缺点
当连接数较少时效率相比多线程+阻塞I/O模型效率较低，可能延迟更大，因为单个连接处理需要2次系统调用，占用时间会有增加
2.5 信号驱动式I/O模型（signal-driven I/O)
简介
在信号驱动式I/O模型中，应用程序使用套接口进行信号驱动I/O，并安装一个信号处理函数，进程继续运行并不阻塞。当数据准备好时，进程会收到一个SIGIO信号，可以在信号处理函数中调用I/O操作函数处理数据
比喻
鱼竿上系了个铃铛，当铃铛响，就知道鱼上钩，然后可以专心玩手机
优点
线程并没有在等待数据时被阻塞，可以提高资源的利用率
缺点
- 信号I/O在大量IO操作时可能会因为信号队列溢出导致没法通知
- 信号驱动I/O尽管对于处理UDP套接字来说有用，即这种信号通知意味着到达一个数据报，或者返回一个异步错误。但是，对于TCP而言，信号驱动的I/O方式近乎无用，因为导致这种通知的条件为数众多，每一个来进行判别会消耗很大资源，与前几种方式相比优势尽失
2.6 异步I/O模型（asynchronous I/O）
简介
由POSIX规范定义，应用程序告知内核启动某个操作，并让内核在整个操作（包括将数据从内核拷贝到应用程序的缓冲区）完成后通知应用程序。这种模型与信号驱动模型的主要区别在于：信号驱动I/O是由内核通知应用程序何时启动一个I/O操作，而异步I/O模型是由内核通知应用程序I/O操作何时完成
优点
异步 I/O 能够充分利用 DMA 特性，让 I/O 操作与计算重叠
缺点
要实现真正的异步 I/O，操作系统需要做大量的工作。目前 Windows 下通过 IOCP 实现了真正的异步 I/O，而在 Linux 系统下，Linux2.6才引入，目前 AIO 并不完善，因此在 Linux 下实现高并发网络编程时都是以 IO复用模型模式为主
2.7 5种I/O模型总结
作者：caison
链接：https://www.jianshu.com/p/2965fca6bb8f
来源：简书
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
