Nginx源码研究二：NGINX的事件处理概论

　　NGINX作为服务端的应用程序，在客户端发出数据后，服务端在做着这样一些处理，数据先会经过网卡，网卡会和操作系统做交互，经过操作系统的协议栈处理，再和不同的应用程序交互。

　　在这里面涉及两个概念，一个是用户态，一个是内核态。应用程序通过系统调用函数进入内核空间，内核运行进行数据准备和数据拷贝等工作。对于NGINX来说，他是作为应用程序和操作系统交互，即是用户态和内核态的之间的交互，NGINX和内核交互方式有很多，例如open(),read() 等都是在和内核交互，而对于网络IO来说，我们知道linux下的网络IO主要有五种：

一是阻塞IO，应用程序调用内核函数，阻塞到内核完成数据准备和数据拷贝的全过程。

二是非阻塞IO，应用程序调用内核函数，不断的查问内核数据是否准备好，直到内核数据准备好，再阻塞到内核完成数据拷贝。

第三种是I/O复用，应用程序调用内核参数，告知内核关心的事件，内核在收到该事件准备好的数据后，通知应用程序，应用程序再阻塞到内核的数据拷贝完成，一般web服务器都采用这样的IO模型，例如Apache采用的select/poll，当然nginx也支持select/poll，但是在linux2.6后，NGINX一般选择epoll。

第四种是信号，应用程序安置一个信号处理函数，运行过程不阻塞，操作系统在将数据准备好后，会发送一个信号给应用程序，应用程序的信号处理函数可以做IO处理。

第五种的异步，应用程序在调用操作系统提供的异步IO函数，例如aio_read。

告知操作系统发出的请求无需立即返回，待操作系统做完数据准备和数据拷贝后，再通知应用程序通过系统调用函数指定的信号。

实际上网络I/O模型中，前四种都是同步模型，第五种是异步模型。

我们先看一下NGINX的module里面支持的IO模型。

|-- event
|   |-- modules
|   |   |-- ngx_aio_module.c
|   |   |-- ngx_devpoll_module.c
|   |   |-- ngx_epoll_module.c
|   |   |-- ngx_eventport_module.c
|   |   |-- ngx_kqueue_module.c
|   |   |-- ngx_poll_module.c
|   |   |-- ngx_rtsig_module.c
|   |   |-- ngx_select_module.c
|   |   `-- ngx_win32_select_module.c

在本章，将重点研究NGINX使用epoll做网络IO。

 

NGINX做网络IO，涉及到三个module:

module名称	类型	所在文件
ngx_events_module	NGX_CORE_MODULE	ngx_event.c
ngx_event_core_module	NGX_EVENT_MODULE	ngx_event.c
ngx_epoll_module	NGX_EVENT_MODULE	module/ngx_epoll_module.c

 

　　在上一章，提到了module的启动过程，在init_cycle函数，对ngx_events_module的配置信息做了生成，通过分析配置文件，调用ngx_events_commands去对NGX_EVENT_MODULE做了配置信息的生成，分析，初始化。

 

一、master-work工作模式的处理过程

在解决配置信息的处理后，我们来看看进程的处理过程

1、  我们选择master-work工作模式

ngx_master_process_cycle(ngx_cycle_t *cycle)
{
        ......
    
    ngx_start_worker_processes(cycle, ccf->worker_processes,
                               NGX_PROCESS_RESPAWN);
    ngx_start_cache_manager_processes(cycle, 0);
    
    ......
}

 

2、

static void
ngx_start_worker_processes(ngx_cycle_t *cycle, ngx_int_t n, ngx_int_t type)
{
    ngx_int_t      i;
    ngx_channel_t  ch;

    ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0, "start worker processes");

    ch.command = NGX_CMD_OPEN_CHANNEL;

    for (i = 0; i < n; i++) {

        ngx_spawn_process(cycle, ngx_worker_process_cycle,
                          (void *) (intptr_t) i, "worker process", type);

        ch.pid = ngx_processes[ngx_process_slot].pid; //主进程的情况
        ch.slot = ngx_process_slot;
        ch.fd = ngx_processes[ngx_process_slot].channel[0];

        ngx_pass_open_channel(cycle, &ch);
    }
}

 

3、

//进程生成
ngx_pid_t
ngx_spawn_process(ngx_cycle_t *cycle, ngx_spawn_proc_pt proc, void *data,
    char *name, ngx_int_t respawn)
{
   ……

    pid = fork();

    switch (pid) {

    case -1:
        ngx_log_error(NGX_LOG_ALERT, cycle->log, ngx_errno,
                      "fork() failed while spawning \"%s\"", name);
        ngx_close_channel(ngx_processes[s].channel, cycle->log);
        return NGX_INVALID_PID;

    case 0: //子进程进入到proc
        ngx_pid = ngx_getpid();
        proc(cycle, data);
        break;

    default: //父进程继续
        break;
    }
     
    ……

    return pid;
}

 

4、

static void
ngx_worker_process_cycle(ngx_cycle_t *cycle, void *data)
{
……

    ngx_worker_process_init(cycle, worker);

    ngx_setproctitle("worker process");

……

    for ( ;; ) {
……
        ngx_process_events_and_timers(cycle);
        ……
    }
}

 

5、

static void
ngx_worker_process_init(ngx_cycle_t *cycle, ngx_int_t worker)
{
    ……

    for (i = 0; ngx_modules[i]; i++) {
        if (ngx_modules[i]->init_process) {
            if (ngx_modules[i]->init_process(cycle) == NGX_ERROR) {
                /* fatal */
                exit(2);
            }
        }
    }

 ……

    if (ngx_add_channel_event(cycle, ngx_channel, NGX_READ_EVENT,
                              ngx_channel_handler)
        == NGX_ERROR)
    {
        /* fatal */
        exit(2);
    }
}

 

6、

static ngx_int_t
ngx_event_process_init(ngx_cycle_t *cycle)
{
    ......

    //初始化module的action


    ......
    cycle->connections =
        ngx_alloc(sizeof(ngx_connection_t) * cycle->connection_n, cycle->log);
    if (cycle->connections == NULL) {
        return NGX_ERROR;
    }

    c = cycle->connections;

    cycle->read_events = ngx_alloc(sizeof(ngx_event_t) * cycle->connection_n,
                                   cycle->log);
    if (cycle->read_events == NULL) {
        return NGX_ERROR;
    }

    rev = cycle->read_events;
    for (i = 0; i < cycle->connection_n; i++) {
        rev[i].closed = 1;
        rev[i].instance = 1;
#if (NGX_THREADS)
        rev[i].lock = &c[i].lock;
        rev[i].own_lock = &c[i].lock;
#endif
    }

    cycle->write_events = ngx_alloc(sizeof(ngx_event_t) * cycle->connection_n,
                                    cycle->log);
    if (cycle->write_events == NULL) {
        return NGX_ERROR;
    }

    wev = cycle->write_events;
    for (i = 0; i < cycle->connection_n; i++) {
        wev[i].closed = 1;
#if (NGX_THREADS)
        wev[i].lock = &c[i].lock;
        wev[i].own_lock = &c[i].lock;
#endif
    }

    i = cycle->connection_n;
    next = NULL;

    do {
        i--;

        c[i].data = next;
        c[i].read = &cycle->read_events[i];
        c[i].write = &cycle->write_events[i];
        c[i].fd = (ngx_socket_t) -1;

        next = &c[i];

#if (NGX_THREADS)
        c[i].lock = 0;
#endif
    } while (i);

    cycle->free_connections = next;
    cycle->free_connection_n = cycle->connection_n;

    /* for each listening socket */

    ls = cycle->listening.elts;
    for (i = 0; i < cycle->listening.nelts; i++) {

        ......

        rev->handler = ngx_event_accept;

        if (ngx_use_accept_mutex) {
            continue;
        }

        if (ngx_event_flags & NGX_USE_RTSIG_EVENT) {
            if (ngx_add_conn(c) == NGX_ERROR) {
                return NGX_ERROR;
            }

        } else {
            if (ngx_add_event(rev, NGX_READ_EVENT, 0) == NGX_ERROR) {
                return NGX_ERROR;
            }
        }

#endif

    }

    return NGX_OK;
}