Linux下C线程池的实现
在传统服务器结构中, 常是有一个总的监听线程监听有没有新的用户连接服务器, 每当有一个新的用户进入,服务器就开启一个新的线程用户处理这个用户的数据包。这个线程只服务于这个用户 , 当用户与服务器端关闭连接以后,服务器端销毁这个线程。然而频繁地开辟与销毁线程极大地占用了系统的资源。而且在大量用户的情况下,系统为了开辟和销毁线程将浪费大量的时间和资源。线程池提供了一个解决外部大量用户与服务器有限资源的矛盾,线程池和传统的一个用户对应一个线程的处理方法不同, 它的基本思想就是在程序开始时就在内存中开辟一些线程, 线程的数目是固定的,他们独自形成一个类, 屏蔽了对外的操作, 而服务器只需要将数据包交给线程池就可以了。当有新的客户请求到达时 ,不是新创建一个线程为其服务 , 而是从“池子”中选择一个空闲的线程为新的客户请求服务 ,服务完毕后 ,线程进入空闲线程池中。如果没有线程空闲的话, 就将数据包暂时积累 , 等待线程池内有线程空闲以后再进行处理。通过对多个任务重用已经存在的线程对象 , 降低了对线程对象创建和销毁的开销。当客户请求 时 , 线程对象 已 经存 在 , 可 以 提 高 请 求 的响应时间 , 从而整体地提高了系统服务的表现。
一般来说实现一个线程池主要包括以下几个组成部分:
1)线程管理器:用于创建并管理线程池。
2)工作线程:线程池中实际执行任务的线程。在初始化线程时会预先创建好固定数目的线程在池中,这些初始化的线程一般处于空闲状态,一般不占用CPU,占用较小的内存空间。
3)任务接口:每个任务必须实现的接口,当线程池的任务队列中有可执行任务时,被空闲的工作线程调去执行(线程的闲与忙是通过互斥量实现的,跟前面文章中的设置标志位差不多),把任务抽象出来形成接口,可以做到线程池与具体的任务无关。
4)任务队列:用来存放没有处理的任务,提供一种缓冲机制,实现这种结构有好几种方法,常用的是队列,主要运用先进先出原理,另外一种是链表之类的数据结构,可以动态的为它分配内存空间,应用中比较灵活,下文中就是用到的链表。
下面的不在赘述百度《线程池技术在并发服务器中的应用》写的非常详细!
什么时候需要创建线程池呢?简单的说,如果一个应用需要频繁的创建和销毁线程,而任务执行的时间又非常短,这样线程创建和销毁的带来的开销就不容忽视,这时也是线程池该出场的机会了。如果线程创建和销毁时间相比任务执行时间可以忽略不计,则没有必要使用线程池了。
下面是Linux系统下用C语言创建的一个线程池。线程池会维护一个任务链表(每个CThread_worker结构就是一个任务)。
pool_init()函数预先创建好max_thread_num个线程,每个线程执thread_routine()函数。该函数中
while (pool->cur_queue_size == 0)
{
pthread_cond_wait(&(pool->queue_ready),&(pool->queue_lock));
}
表示如果任务链表中没有任务,则该线程出于阻塞等待状态。否则从队列中取出任务并执行。
pool_add_worker()函数向线程池的任务链表中加入一个任务,加入后通过调用pthread_cond_signal(&(pool->queue_ready))唤醒一个出于阻塞状态的线程(如果有的话)。
pool_destroy()函数用于销毁线程池,线程池任务链表中的任务不会再被执行,但是正在运行的线程会一直把任务运行完后再退出。
#include<stdio.h> #include<stdlib.h> #include<unistd.h> #include<sys/types.h> #include<pthread.h> #include<assert.h> typedef struct worker { void* (*process) (void* arg); void* arg; structworker *next; } CThread_worker; typedef struct { pthread_mutex_t queue_lock; pthread_cond_t queue_ready; CThread_worker *queue_head; int shutdown; pthread_t* threadid; int max_thread_num; int cur_queue_size; } CThread_pool; int pool_add_worker (void *(*process) (void *arg), void*arg); void *thread_routine (void *arg); //share resource static CThread_pool *pool = NULL; void pool_init (int max_thread_num) { pool =(CThread_pool *) malloc (sizeof(CThread_pool)); pthread_mutex_init(&(pool->queue_lock),NULL); pthread_cond_init(&(pool->queue_ready),NULL); pool->queue_head = NULL; pool->max_thread_num =max_thread_num; pool->cur_queue_size = 0; pool->shutdown = 0; pool->threadid = (pthread_t *) malloc(max_thread_num * sizeof (pthread_t));
int i =0; for (i = 0;i < max_thread_num; i++) { pthread_create(&(pool->threadid[i]), NULL,thread_routine,NULL); } } int pool_add_worker (void *(*process) (void *arg), void*arg) { CThread_worker *newworker = (CThread_worker *) malloc (sizeof(CThread_worker)); newworker->process = process; newworker->arg = arg; newworker->next = NULL; pthread_mutex_lock(&(pool->queue_lock)); CThread_worker *member =pool->queue_head; if (member!= NULL) { while (member->next != NULL) member = member->next; member->next = newworker; } else { pool->queue_head = newworker; } assert(pool->queue_head != NULL); pool->cur_queue_size++; pthread_mutex_unlock(&(pool->queue_lock)); pthread_cond_signal(&(pool->queue_ready)); return 0; } int pool_destroy () { if(pool->shutdown) return -1; pool->shutdown = 1; pthread_cond_broadcast(&(pool->queue_ready)); inti; for (i = 0;i < pool->max_thread_num;i++) pthread_join (pool->threadid[i],NULL); free(pool->threadid); CThread_worker *head = NULL; while(pool->queue_head != NULL) { head = pool->queue_head; pool->queue_head =pool->queue_head->next; free (head); } pthread_mutex_destroy(&(pool->queue_lock)); pthread_cond_destroy(&(pool->queue_ready)); free(pool); pool = NULL; return 0; } void * thread_routine (void*arg) { printf("starting thread 0x%x\n", pthread_self()); while(1) { pthread_mutex_lock(&(pool->queue_lock)); while (pool->cur_queue_size == 0&&!pool->shutdown) { printf ("thread 0x%x is waiting\n", pthread_self()); pthread_cond_wait(&(pool->queue_ready),&(pool->queue_lock)); } if (pool->shutdown) { pthread_mutex_unlock(&(pool->queue_lock)); printf ("thread 0x%x will exit\n", pthread_self()); pthread_exit(NULL); } printf ("thread 0x%x is starting to work\n", pthread_self()); assert (pool->cur_queue_size !=0); assert (pool->queue_head !=NULL); pool->cur_queue_size--; CThread_worker *worker =pool->queue_head; pool->queue_head =worker->next; pthread_mutex_unlock(&(pool->queue_lock)); (*(worker->process))(worker->arg); free (worker); worker = NULL; } pthread_exit(NULL); } // 下面是测试代码 void * myprocess (void*arg) { printf("threadid is 0x%x, working on task %d\n", pthread_self (),*(int *)arg); sleep(1); return NULL; } int main (int argc, char**argv) { pool_init(3); int* workingnum = (int *) malloc (sizeof (int) *10); int i; for (i = 0;i < 10; i++) { workingnum[i] = i; pool_add_worker (myprocess,&workingnum[i]); } sleep(5); pool_destroy(); free(workingnum); return 0; }
本文转自:http://hi.baidu.com/boahegcrmdghots/item/f3ca1a3c2d47fcc52e8ec2e1