016-redis原理-01-线程 IO 模型

一、概述

　　Redis 是个单线程程序

　　除了 Redis 之外，Node.js 也是单线 程，Nginx 也是单线程，但是它们都是服务器高性能的典范。

Redis 单线程为什么还能这么快

　　因为它所有的数据都在内存中，所有的运算都是内存级别的运算。正因为 Redis 是单线 程，所以要小心使用 Redis 指令，对于那些时间复杂度为 O(n) 级别的指令，一定要谨慎使 用，一不小心就可能会导致 Redis 卡顿。

Redis 单线程如何处理那么多的并发客户端连接?

　　多路复用，select 系列的事件轮询 API，非阻塞 IO。

1.1、非阻塞 IO

　　首先，Redis 是跑在单线程中的，所有的操作都是按照顺序线性执行的，但是由于读写操作等待用户输入或输出都是阻塞的，所以 I/O 操作在一般情况下往往不能直接返回，这会导致某一文件的 I/O 阻塞导致整个进程无法对其它客户提供服务，而 I/O 多路复用就是为了解决这个问题而出现的。

1.1.1、阻塞IO【Blocking I/O】

　　当我们调用套接字的读写方法，默认它们是阻塞的，比如 read 方法要传递进去一个参数 n，表示读取这么多字节后再返回，如果没有读够线程就会卡在那里，直到新的数据到来或者 连接关闭了，read 方法才可以返回，线程才能继续处理。而 write 方法一般来说不会阻塞，除 非内核为套接字分配的写缓冲区已经满了，write 方法就会阻塞，直到缓存区中有空闲空间挪 出来了。

　　

1.1.2、非阻塞IO

　　非阻塞 IO 在套接字对象上提供了一个选项 Non_Blocking，当这个选项打开时，读写方法不会阻塞，而是能读多少读多少，能写多少写多少。能读多少取决于内核为套接字分配的 读缓冲区内部的数据字节数，能写多少取决于内核为套接字分配的写缓冲区的空闲空间字节 数。

　　读方法和写方法都会通过返回值来告知程序实际读写了多少字节。

　　有了非阻塞 IO 意味着线程在读写 IO 时可以不必再阻塞了，读写可以瞬间完成然后线程可以继续干别的事了。 

　　更多：002-Unix网络编程-五种IO模型，阻塞IO、非阻塞IO、多路复用IO、信号驱动IO以及异步IO和高性能IO设计模式：Reactor和Proactor

1.2、时间轮询（多路复用）　　

　　非阻塞 IO 有个问题，那就是线程要读数据，结果读了一部分就返回了，线程如何知道 何时才应该继续读。也就是当数据到来时，线程如何得到通知。写也是一样，如果缓冲区满 了，写不完，剩下的数据何时才应该继续写，线程也应该得到通知。 

　　　　

　　事件轮询 API 就是用来解决这个问题的，最简单的事件轮询 API 是 select 函数，它是 操作系统提供给用户程序的 API。输入是读写描述符列表 read_fds & write_fds，输出是与之 对应的可读可写事件。同时还提供了一个 timeout 参数，如果没有任何事件到来，那么就最多 等待 timeout 时间，线程处于阻塞状态。一旦期间有任何事件到来，就可以立即返回。时间过 了之后还是没有任何事件到来，也会立即返回。拿到事件后，线程就可以继续挨个处理相应 的事件。处理完了继续过来轮询。于是线程就进入了一个死循环，我们把这个死循环称为事 件循环，一个循环为一个周期。

　　每个客户端套接字 socket 都有对应的读写文件描述符。 

read_events, write_events = select(read_fds, write_fds, timeout) 
for event in read_events:
    handle_read(event.fd) 
for event in write_events:
    handle_write(event.fd)
handle_others() # 处理其它事情，如定时任务等

　　因为我们通过 select 系统调用同时处理多个通道描述符的读写事件，因此我们将这类系 统调用称为多路复用 API。现代操作系统的多路复用 API 已经不再使用 select 系统调用，而 改用 epoll(linux)和 kqueue(freebsd & macosx)，因为 select 系统调用的性能在描述符特别多时 

　　性能会非常差。它们使用起来可能在形式上略有差异，但是本质上都是差不多的，都可以使用上面的伪代码逻辑进行理解。

　　服务器套接字 serversocket 对象的读操作是指调用 accept 接受客户端新连接。何时有新连 接到来，也是通过 select 系统调用的读事件来得到通知的。

　　事件轮询 API 就是 Java 语言里面的 NIO 技术

　　Java 的 NIO 并不是 Java 特有的技术，其它计算机语言都有这个技术，只不过换了一 个词汇，不叫 NIO 而已。 

1.3、指令队列

　　Redis 会将每个客户端套接字都关联一个指令队列。客户端的指令通过队列来排队进行顺序处理，先到先服务。

1.4、响应队列

　　Redis 同样也会为每个客户端套接字关联一个响应队列。Redis 服务器通过响应队列来将 指令的返回结果回复给客户端。 如果队列为空，那么意味着连接暂时处于空闲状态，不需要 去获取写事件，也就是可以将当前的客户端描述符从 write_fds 里面移出来。等到队列有数据 了，再将描述符放进去。避免 select 系统调用立即返回写事件，结果发现没什么数据可以 写。出这种情况的线程会飙高 CPU。

1.5、定时任务

　　服务器处理要响应 IO 事件外，还要处理其它事情。比如定时任务就是非常重要的一件 事。如果线程阻塞在 select 系统调用上，定时任务将无法得到准时调度。那 Redis 是如何解 决这个问题的呢?

　　Redis 的定时任务会记录在一个称为最小堆的数据结构中。这个堆中，最快要执行的任 务排在堆的最上方。在每个循环周期，Redis 都会将最小堆里面已经到点的任务立即进行处 理。处理完毕后，将最快要执行的任务还需要的时间记录下来，这个时间就是 select 系统调 用的 timeout 参数。因为 Redis 知道未来 timeout 时间内，没有其它定时任务需要处理，所以 可以安心睡眠 timeout 的时间。

　　Nginx 和 Node 的事件处理原理和 Redis 也是类似的 

二、其他

2.1、为什么使用连接池

　　Redis 是单进程单线程的，它利用队列技术将并发访问变为串行访问，消除了传统数据库串行控制的开销。

　　Redis 是基于内存的数据库，使用之前需要建立连接，建立断开连接需要消耗大量的时间。

　　再假设 Redis 服务器与客户端分处在异地，虽然基于内存的 Redis 数据库有着超高的性能，但是底层的网络通信却占用了一次数据请求的大量时间，因为每次数据交互都需要先建立连接，假设一次数据交互总共用时 30ms，超高性能的 Redis 数据库处理数据所花的时间可能不到 1ms，也即是说前期的连接占用了 29ms，连接池则可以实现在客户端建立多个连接并且不释放，当需要使用连接的时候通过一定的算法获取已经建立的连接，使用完了以后则还给连接池，这就免去了数据库连接所占用的时间。

　　实际上，Redis 在收到多个连接后，采用的是非阻塞 IO，基于 epoll 的多路 IO 复用。

　　然后采用队列模式将并发访问变为串行访问，对于串行访问，本身操作内存就很快，Redis 采用一个线程来处理就再正常不过了！