Nginx内存池理解

  工作中经常遇到内存泄漏,而且又很难排查是哪里没有释放导致,如果采用内存池的方式,内存都从内存池里面分配,销毁内存池时才统一释放,就能减少很多的内存泄漏问题。使用内存池的意义,一个是能够有效解决内存碎片化的问题,再一个就是避免内存泄漏的问题;本文主要介绍Nginx的内存池。

  (1)Nginx内存池结构

    大块结构定义

//大块
struct ngx_pool_large_s {
    ngx_pool_large_t     *next;//下一个大块内存
    void                 *alloc;//分配的大块内存空间
};

  ngx_pool_data_t 结构定义

//ngx_pool_data_t可以理解为是嵌入到ngx_pool_s里
typedef struct {
    u_char               *last;//内存块中last指向还没有用过的内存的头部地址,也可以认为分配的小块内存就是指针last的移动
    u_char               *end;//当前chunck的末尾
    ngx_pool_t           *next;//指向下一个chunck
    ngx_uint_t            failed;//统计该内存池不能满足分配请求的次数
} ngx_pool_data_t;
//申请小块内存都会在chunck里面分配

  内存池结构定义

struct ngx_pool_s {
    ngx_pool_data_t       d;//chunck链表
    size_t                max;//chunck内存最大大小
    ngx_pool_t           *current;
    ngx_chain_t          *chain;//可以挂载一个chain结构
    ngx_pool_large_t     *large;//大块链表
    ngx_pool_cleanup_t   *cleanup;//挂载一些内存池释放的时候,同时释放的资源
    ngx_log_t            *log;
};

  大块的链表结构:

   内存池结构:

   由上图可知,小块内存是在chunck里面分配,end指针指向的是整个chunck的尾部,last指针指向未使用的内存首部地址(分配内存开始位置),为了方便统一管理,large节点是放在chunck里面,它指向大块的链表。

  (2)创建内存池

ngx_pool_t * ngx_create_pool(size_t size, ngx_log_t *log)//size为chunck的大小
{
    ngx_pool_t  *p;

    p = ngx_memalign(NGX_POOL_ALIGNMENT, size, log);//分配一块size大小,不同系统会不一样
    if (p == NULL) {
        return NULL;
    }

    p->d.last = (u_char *) p + sizeof(ngx_pool_t);//指向一个ngx_pool_t尾部,即指向可以分配内存的起始地址
    p->d.end = (u_char *) p + size;//指向整个内存块的尾部地址
    p->d.next = NULL;
    p->d.failed = 0;

    size = size - sizeof(ngx_pool_t);//减去头部,就是可分配的大小
    p->max = (size < NGX_MAX_ALLOC_FROM_POOL) ? size : NGX_MAX_ALLOC_FROM_POOL;//最大不超过NGX_MAX_ALLOC_FROM_POOL

    p->current = p;//指向当前的内存池
    p->chain = NULL;
    p->large = NULL;
    p->cleanup = NULL;
    p->log = log;

    return p;
}

  (3)销毁内存池

void ngx_destroy_pool(ngx_pool_t *pool)
{
    ngx_pool_t          *p, *n;
    ngx_pool_large_t    *l;
    ngx_pool_cleanup_t  *c;
	//先遍历cleanup链表,调用函数去删除数据,这是对自己指定的数据进行清理,如果没挂载有就不执行
    for (c = pool->cleanup; c; c = c->next) {
        if (c->handler) {
            ngx_log_debug1(NGX_LOG_DEBUG_ALLOC, pool->log, 0,
                           "run cleanup: %p", c);
            c->handler(c->data);
        }
    }

#if (NGX_DEBUG)

    /*
     * we could allocate the pool->log from this pool
     * so we cannot use this log while free()ing the pool
     */

    for (l = pool->large; l; l = l->next) {
        ngx_log_debug1(NGX_LOG_DEBUG_ALLOC, pool->log, 0, "free: %p", l->alloc);
    }

    for (p = pool, n = pool->d.next; /* void */; p = n, n = n->d.next) {
        ngx_log_debug2(NGX_LOG_DEBUG_ALLOC, pool->log, 0,
                       "free: %p, unused: %uz", p, p->d.end - p->d.last);

        if (n == NULL) {
            break;
        }
    }

#endif
	//大块清理
    for (l = pool->large; l; l = l->next) {
        if (l->alloc) {
            ngx_free(l->alloc);
        }
    }
	//chunck清理
    for (p = pool, n = pool->d.next; /* void */; p = n, n = n->d.next) {
        ngx_free(p);

        if (n == NULL) {
            break;
        }
    }
}

  (4)重置内存池

  释放所有大块内存,将所有chunck的last指针、failed值进行重置。

void ngx_reset_pool(ngx_pool_t *pool)
{
    ngx_pool_t        *p;
    ngx_pool_large_t  *l;
	//释放所有的大块内存(大块的链表节点依然还在,因为它存储在chunck里面)
    for (l = pool->large; l; l = l->next) {
        if (l->alloc) {
            ngx_free(l->alloc);
        }
    }
	//将chunck中last指针初始化,chunck内存中的数据不需要清理,后面分配时覆盖
    for (p = pool; p; p = p->d.next) {
        p->d.last = (u_char *) p + sizeof(ngx_pool_t);//指向分配内存的起始地址
        p->d.failed = 0;//置0
    }

    pool->current = pool;
    pool->chain = NULL;
    pool->large = NULL;
}

  (5)分配内存

  ngx_palloc 分配的内存是对齐的,如果分配的内存小于chunck的大小,就到chunck中进行小块分配,否则就到大块去分配。

void * ngx_palloc(ngx_pool_t *pool, size_t size)
{
#if !(NGX_DEBUG_PALLOC)
    if (size <= pool->max) {//小于chunck最大大小,就分配到chunck中(小块)
        return ngx_palloc_small(pool, size, 1);//1:内存对齐
    }
#endif
	//否则,分配到大块中
    return ngx_palloc_large(pool, size);
}

  ngx_pnalloc 分配的内存是不对齐的,如果分配的内存小于chunck的大小,就到chunck中进行小块分配,否则就到大块去分配。

void * ngx_pnalloc(ngx_pool_t *pool, size_t size)
{
#if !(NGX_DEBUG_PALLOC)
    if (size <= pool->max) {
        return ngx_palloc_small(pool, size, 0);//0:内存不对齐
    }
#endif

    return ngx_palloc_large(pool, size);
}

  (6)ngx_palloc_small小块分配

  从当前chunck开始遍历,如果当前chunck有足够空间可分配,那么就返回可分配的起始地址

  当遍历完所有chunck都找不到可分配的空间,则新建一个chunck

static ngx_inline void * ngx_palloc_small(ngx_pool_t *pool, size_t size, ngx_uint_t align)
{
    u_char      *m;
    ngx_pool_t  *p;

    p = pool->current;//当前的内存池

    do {
        m = p->d.last;//指向当前chunck块中还未分配的首位地址

        if (align) {
            m = ngx_align_ptr(m, NGX_ALIGNMENT);//对齐内存指针,加快存取速度
        }
	//如果当前chunck有足够空间可分配,那么就返回内存可分配的起始地址
        if ((size_t) (p->d.end - m) >= size) {
            p->d.last = m + size;

            return m;//返回可分配的内存地址
        }

        p = p->d.next;//指向下一chunck

    } while (p);
	
    //遍历完所有chunck都找不到可分配的空间,则需要新建一个chunck,返回该chunck可分配的起始地址
    return ngx_palloc_block(pool, size);
}

  (7)ngx_palloc_block 新建一个chunck

  新建一个chunck过程与新建内存池相似,从内存中取一块地址分配一个chunck,进行内存对齐

  最后返回chunck中可分配内存的起始地址

static void * ngx_palloc_block(ngx_pool_t *pool, size_t size)
{
    u_char      *m;
    size_t       psize;
    ngx_pool_t  *p, *new;
	
    psize = (size_t) (pool->d.end - (u_char *) pool);//去除头部后,得到真正使用的内存空间大小,一个chunck可用空间大小
    //分配一块psize大小的内存,返回可用空间的起始地址
    m = ngx_memalign(NGX_POOL_ALIGNMENT, psize, pool->log);
    if (m == NULL) {
        return NULL;
    }

    new = (ngx_pool_t *) m;
    new->d.end = m + psize;//整个chunck的大小
    new->d.next = NULL;
    new->d.failed = 0;

    m += sizeof(ngx_pool_data_t);
  //进行内存对齐
    m = ngx_align_ptr(m, NGX_ALIGNMENT);
    new->d.last = m + size;

    for (p = pool->current; p->d.next; p = p->d.next) {
		
        if (p->d.failed++ > 4) {//如果failed > 4, 漏过这个chunck(也就是说每个块,只允许失败4次,失败4次后,让current指向下一个chunck)
	    pool->current = p->d.next;
        }
    }
    //把chunck插入链表尾部
    p->d.next = new;

    return m;
}

  (8)ngx_palloc_large 大块分配

  从申请一块size大小的内存,大于3使用尾插法,大于3使用头插法

  在chunck里面分配一个large节点,该节点指向大块链表的头节点,这么做是便于统一管理,减少内存碎片化

static void * ngx_palloc_large(ngx_pool_t *pool, size_t size)
{
    void              *p;
    ngx_uint_t         n;
    ngx_pool_large_t  *large;
    //先申请size的内存
    p = ngx_alloc(size, pool->log);
    if (p == NULL) {
        return NULL;
    }

    n = 0;

    for (large = pool->large; large; large = large->next) {
	//n小于3使用尾插法
        if (large->alloc == NULL) {//找到最后一个节点
            large->alloc = p;//指向分配的内存块
            return p;
        }

        if (n++ > 3) {//大于3使用头插法,好处就是查找最近插入点的效率快很多,3可能是经验值
            break;
        }
    }
    //在chunck里分配一个链表的节点(用于指向大块),这个节点是存放在小块里,原因是避免内存碎片化,便于统一管理
    large = ngx_palloc_small(pool, sizeof(ngx_pool_large_t), 1);
    if (large == NULL) {
        ngx_free(p);
        return NULL;
    }
    //头插法
    large->alloc = p;
    large->next = pool->large;
    pool->large = large;

    return p;
}

  

 

posted @ 2022-07-14 07:57  MrJuJu  阅读(127)  评论(0编辑  收藏  举报