linux下用c语言实现一个简单的线程池

首先大家思考一个问题：为什么需要内存池？
我们知道应用程序创建一个对象，然后销毁对象是很耗费资源的。创建线程，销毁线程，也是如此。因此，我们就预先生成一些线程，等到我们使用的时候在进行调度，于是，一些"池化资源"技术就这样的产生了。

1 线程池优点

下面使用网上资源验证线程池如何提高服务器性能的。

多线程技术主要解决处理器单元内多个线程执行的问题，它可以显著减少处理器单元的闲置时间，增加处理器单元的吞吐能力。但如果对多线程应用不当，会增加对单个任务的处理时间。可以举一个简单的例子：
假设在一台服务器完成一项任务的时间为T
     T1 创建线程的时间
      T2 在线程中执行任务的时间，包括线程间同步所需时间
      T3 线程销毁的时间              
显然T ＝ T1＋T2＋T3。注意这是一个极度简化的假设。
可以看出T1,T3是多线程本身的带来的开销，我们渴望减少T1,T3所用的时间，从而减少T的时间。但一些线程的使用者并没有注意到这一点，所以在程序中频繁的创建或销毁线程，这导致T1和T3在T中占有相当比例。显然这是突出了线程的弱点（T1，T3），而不是优点（并发性）。
线程池技术正是关注如何缩短或调整T1,T3时间的技术，从而提高服务器程序性能的。它把T1，T3分别安排在服务器程序的启动和结束的时间段或者一些空闲的时间段，这样在服务器程序处理客户请求时，不会有T1，T3的开销了。
线程池不仅调整T1,T3产生的时间段，而且它还显著减少了创建线程的数目。在看一个例子：
假设一个服务器一天要处理50000个请求，并且每个请求需要一个单独的线程完成。我们比较利用线程池技术和不利于线程池技术的服务器处理这些请求时所产生的线程总数。在线程池中，线程数一般是固定的，所以产生线程总数不会超过线程池中线程的数目或者上限（以下简称线程池尺寸），而如果服务器不利用线程池来处理这些请求则线程总数为50000。一般线程池尺寸是远小于50000。所以利用线程池的服务器程序不会为了创建50000而在处理请求时浪费时间，从而提高效率。
线程池的原理如下图：



线程池的结构定义如下：
typedef struct
{
void *(*function) (void *);/* 函数指针，回调函数 */
void *arg;/* 上面函数的参数 */
}threadpool_task_t;/* 各子线程任务结构体 */

/* 描述线程池相关信息 */
typedef struct threadpool_t {
pthread_mutex_t lock; /* 用于锁住本结构体 ，和条件变量一起使用 */
pthread_mutex_t thread_counter; /* 记录忙状态线程个数的锁 -- busy_thr_num */
pthread_cond_t queue_not_full; /* 当任务队列满时，添加任务的线程阻塞，等待此条件变量 */
pthread_cond_t queue_not_empty; /* 任务队列里不为空时，通知线程池中等待任务的线程 */

pthread_t *threads; /* 存放线程池中每个线程的tid。数组 */
pthread_t adjust_tid; /* 存管理线程tid */
threadpool_task_t *task_queue; /* 任务队列 */

int min_thr_num; /* 线程池最小线程数 */
int max_thr_num; /* 线程池最大线程数 */
int live_thr_num; /* 当前存活线程个数 */
int busy_thr_num; /* 忙状态线程个数 */
int wait_exit_thr_num; /* 要销毁的线程个数 */

int queue_front; /* task_queue队头下标 */
int queue_rear; /* task_queue队尾下标 */
int queue_size; /* task_queue队中实际任务数 */
int queue_max_size; /* task_queue队列可容纳任务数上限 */

int shutdown; /* 标志位，线程池使用状态，true或false */
}threadpool_t;



threadpool_t *threadpool_create(int min_thr_num, int max_thr_num, int queue_max_size);
这个函数用来做一些初始化操作，互斥锁和条件变量的初始化，设置线程池的最小线程数和最大线程数，创建线程池中的线程，创建任务队列。

整体实现代码如下：
#include<stdio.h>
#include<stdlib.h>
#include<unistd.h>
#include<string.h>
#include<pthread.h>
#include<signal.h>
#include<errno.h>
#include<assert.h>

#define DEFAULT_TIME 10 //10s检测一次
#define MIN_WAIT_TASK_NUM 10/*如果queue_size > MIN_WAIT_TASK_NUM 添加新的线程到线程池*/
#define DEFAULT_THREAD_VARY 10/*每次创建和销毁线程的个数*/
#define true 1
#define false 0

typedef struct
{
void *(*function) (void *);/* 函数指针，回调函数 */
void *arg;/* 上面函数的参数 */
}threadpool_task_t;/* 各子线程任务结构体 */

/* 描述线程池相关信息 */
typedef struct threadpool_t {
pthread_mutex_t lock; /* 用于锁住本结构体 ，和条件变量一起使用 */
pthread_mutex_t thread_counter; /* 记录忙状态线程个数的锁 -- busy_thr_num */
pthread_cond_t queue_not_full; /* 当任务队列满时，添加任务的线程阻塞，等待此条件变量 */
pthread_cond_t queue_not_empty; /* 任务队列里不为空时，通知线程池中等待任务的线程 */

pthread_t *threads; /* 存放线程池中每个线程的tid。数组 */
pthread_t adjust_tid; /* 存管理线程tid */
threadpool_task_t *task_queue; /* 任务队列 */

int min_thr_num; /* 线程池最小线程数 */
int max_thr_num; /* 线程池最大线程数 */
int live_thr_num; /* 当前存活线程个数 */
int busy_thr_num; /* 忙状态线程个数 */
int wait_exit_thr_num; /* 要销毁的线程个数 */

int queue_front; /* task_queue队头下标 */
int queue_rear; /* task_queue队尾下标 */
int queue_size; /* task_queue队中实际任务数 */
int queue_max_size; /* task_queue队列可容纳任务数上限 */

int shutdown; /* 标志位，线程池使用状态，true或false */
}threadpool_t;

void* threadpool_thread( void *threadpool );//线程池中工作线程要做的事情。
void *adjust_thread( void *threadpool ); //管理者线程要做的事情。
int threadpool_free(threadpool_t *pool); //销毁

//做一些初始化操作
threadpool_t *threadpool_create(int min_thr_num, int max_thr_num, int queue_max_size)
{
int i;
threadpool_t *pool = NULL;
do {
if((pool = (threadpool_t *)malloc(sizeof(threadpool_t))) == NULL) {
printf("malloc threadpool fail");
break;/*跳出do while*/
}

pool->min_thr_num = min_thr_num;//线程池最小线程数
pool->max_thr_num = max_thr_num;//线程池最大线程数
pool->busy_thr_num = 0;//忙状态的线程数初始值为0
pool->live_thr_num = min_thr_num; /* 活着的线程数 初值=最小线程数 */
pool->wait_exit_thr_num = 0; //要销毁的线程个数初始值也初始为0.

pool->queue_size = 0; /* 任务队列实际元素个数初始值为0 */
pool->queue_max_size = queue_max_size; //任务队列最大元素个数。
pool->queue_front = 0;
pool->queue_rear = 0;
pool->shutdown = false; /* 不关闭线程池 */

/* 根据最大线程上限数， 给工作线程数组开辟空间, 并清零 */
pool->threads = (pthread_t *)malloc(sizeof(pthread_t)*max_thr_num); //线程池中线程最大个数
if (pool->threads == NULL) {
printf("malloc threads fail");
break;
}
memset(pool->threads, 0, sizeof(pthread_t)*max_thr_num);

/* 队列开辟空间 */
pool->task_queue = (threadpool_task_t *)malloc(sizeof(threadpool_task_t)*queue_max_size); //每个元素都是一个结构体，结构体中有一个函数指针和一个void*的指针。
if (pool->task_queue == NULL) {
printf("malloc task_queue fail");
break;
}

/* 初始化互斥琐、条件变量 */
if (pthread_mutex_init(&(pool->lock), NULL) != 0
|| pthread_mutex_init(&(pool->thread_counter), NULL) != 0
|| pthread_cond_init(&(pool->queue_not_empty), NULL) != 0
|| pthread_cond_init(&(pool->queue_not_full), NULL) != 0)
{
printf("init the lock or cond fail");
break;
}

/* 启动 min_thr_num 个 work thread */
for (i = 0; i < min_thr_num; i++) {
pthread_create(&(pool->threads[i]), NULL, threadpool_thread, (void *)pool);/*pool指向当前线程池*/
printf("start thread 0x%x...\n", (unsigned int)pool->threads[i]); //16进程打印线程id
}
pthread_create(&(pool->adjust_tid), NULL, adjust_thread, (void *)pool);/* 启动管理者线程 */
pthread_detach(pool->adjust_tid); //把管理线程设置为分离的，系统帮助回收资源。
printf("**************************dajust_thread start**********************************\n");

sleep(1); //等待线程创建完成再回到主函数中。
return pool;

} while (0);

threadpool_free(pool); /* 前面代码调用失败时，释放poll存储空间 */

return NULL;
}

/* 线程池中各个工作线程 */
void *threadpool_thread(void *threadpool)
{
threadpool_t *pool = (threadpool_t*)threadpool;

threadpool_task_t task; //

while(true)
{
/* Lock must be taken to wait on conditional variable */
/*刚创建出线程，等待任务队列里 有任务，否则阻塞等待任务队列里有任务后再唤醒接收任务*/

pthread_mutex_lock( &(pool->lock) );

/*queue_size == 0 说明没有任务，调 wait 阻塞在条件变量上, 若有任务，跳过该while*/
while( (pool->queue_size ==0) && (!pool->shutdown) ) //线程池没有任务且不关闭线程池。
{
printf("thread 0x%x is waiting\n", (unsigned int)pthread_self());
pthread_cond_wait(&(pool->queue_not_empty), &(pool->lock));//线程阻塞在这个条件变量上

/*清除指定数目的空闲线程，如果要结束的线程个数大于0，结束线程*/
if( pool->wait_exit_thr_num > 0) /* 要销毁的线程个数大于0 */
{
pool->wait_exit_thr_num--;

/*如果线程池里线程个数大于最小值时可以结束当前线程*/
if (pool->live_thr_num > pool->min_thr_num) {
printf("thread 0x%x is exiting\n", (unsigned int)pthread_self());
pool->live_thr_num--;
pthread_mutex_unlock(&(pool->lock));
pthread_exit(NULL);
}
}
}

/*如果指定了true，要关闭线程池里的每个线程，自行退出处理*/
if(pool->shutdown)
{
pthread_mutex_unlock ( &(pool->lock) );
printf("thread 0x%x is exiting\n", (unsigned int)pthread_self());
pthread_exit(NULL); /* 线程自行结束 */
}

//从任务队列里获取任务，是一个出队操作
task.function=pool->task_queue[ pool->queue_front ].function;
task.arg = pool->task_queue[ pool->queue_front ].arg;

pool->queue_front = (pool->queue_front +1)%pool->queue_max_size;//队头指针向后移动一位。
pool->queue_size--;

/*任务队列中出了一个元素，还有位置 ，唤醒阻塞在这个条件变量上的线程，现在通知可以有新的任务添加进来*/
pthread_cond_broadcast(&(pool->queue_not_full)); //queue_not_full另一个条件变量。

/*任务取出后，立即将 线程池琐 释放*/
pthread_mutex_unlock(&(pool->lock));

/*执行任务*/
printf("thread 0x%x start working\n", (unsigned int)pthread_self());
pthread_mutex_lock(&(pool->thread_counter)); /*忙状态线程数变量琐*/
pool->busy_thr_num++; /*忙状态线程数+1*/
pthread_mutex_unlock(&(pool->thread_counter));
//(*(task.function))(task.arg); /*执行回调函数任务，相当于process(arg) */
(task.function)(task.arg);

/*任务结束处理*/
printf("thread 0x%x end working\n\n", (unsigned int)pthread_self());
usleep(10000);

pthread_mutex_lock(&(pool->thread_counter));
pool->busy_thr_num--; /*处理掉一个任务，忙状态数线程数-1*/
pthread_mutex_unlock(&(pool->thread_counter));

}
pthred_exit(NULL);
}

int is_thread_alive(pthread_t tid)
{
int kill_rc = pthread_kill(tid, 0); //发0号信号，测试线程是否存活
if (kill_rc == ESRCH) {
return false;
}

return true;
}

/* 管理线程 */
void *adjust_thread(void *threadpool)
{
int i;
threadpool_t *pool = (threadpool_t *)threadpool ;

while( !(pool->shutdown) ) //线程池没有关闭
{
sleep(DEFAULT_TIME); /*定时 对线程池管理*/
printf("10s is finish,start test thread pool\n");

pthread_mutex_lock(&(pool->lock));
int queue_size = pool->queue_size; /* 关注 任务数 */
int live_thr_num = pool->live_thr_num; /* 存活 线程数 */
pthread_mutex_unlock(&(pool->lock));

pthread_mutex_lock(&(pool->thread_counter));
int busy_thr_num = pool->busy_thr_num; /* 忙着的线程数 */
printf("busy_thr_num is %d\n",busy_thr_num);
pthread_mutex_unlock(&(pool->thread_counter));

/* 创建新线程 算法： 任务数大于最小线程池个数, 且存活的线程数少于最大线程个数时 如：30>=10 && 40<100*/
if (queue_size >= MIN_WAIT_TASK_NUM && live_thr_num < pool->max_thr_num)
{
printf("create new thread\n");

pthread_mutex_lock(&(pool->lock));
int add = 0;

/*一次增加 DEFAULT_THREAD 个线程*/
for (i = 0; i < pool->max_thr_num && add < DEFAULT_THREAD_VARY
&& pool->live_thr_num < pool->max_thr_num; i++)
{
if (pool->threads[i] == 0 || !is_thread_alive(pool->threads[i]))
{
pthread_create(&(pool->threads[i]), NULL, threadpool_thread, (void *)pool);
add++;
pool->live_thr_num++;
}
}
pthread_mutex_unlock(&(pool->lock));

}

/* 销毁多余的空闲线程 算法：忙线程X2 小于 存活的线程数 且 存活的线程数 大于 最小线程数时*/
if ((busy_thr_num * 2) < live_thr_num && live_thr_num > pool->min_thr_num)
{
printf("delete pthread\n");

/* 一次销毁DEFAULT_THREAD个线程, 隨機10個即可 */
pthread_mutex_lock(&(pool->lock));
pool->wait_exit_thr_num = DEFAULT_THREAD_VARY; /* 要销毁的线程数 设置为10 */
pthread_mutex_unlock(&(pool->lock));

for (i = 0; i < DEFAULT_THREAD_VARY; i++)
{
/* 通知处在空闲状态的线程, 他们会自行终止*/
pthread_cond_signal(&(pool->queue_not_empty));
}
}
}
return NULL;
}

/* 向任务队列中， 添加一个任务 */
int threadpool_add(threadpool_t *pool, void *(*function)(void *arg), void *arg)
{
pthread_mutex_lock( &(pool->lock) );

/* ==为真，队列已经满， 调wait阻塞 */
while ((pool->queue_size == pool->queue_max_size) && (!pool->shutdown))
{
pthread_cond_wait(&(pool->queue_not_full), &(pool->lock));
}

if (pool->shutdown)
{
pthread_mutex_unlock(&(pool->lock));
}

/* 清空 工作线程 调用的回调函数 的参数arg */
if (pool->task_queue[pool->queue_rear].arg != NULL)
{
free(pool->task_queue[pool->queue_rear].arg);
pool->task_queue[pool->queue_rear].arg = NULL;

}

/*添加任务到任务队列里*/
pool->task_queue[pool->queue_rear].function = function; //在队列的尾部添加元素
pool->task_queue[pool->queue_rear].arg = arg;
pool->queue_rear = (pool->queue_rear + 1) % pool->queue_max_size; /* 队尾指针移动, 模拟环形 */
pool->queue_size++;

/*添加完任务后，队列不为空，唤醒阻塞在为空的那个条件变量上中的线程*/
pthread_cond_signal(&(pool->queue_not_empty));
pthread_mutex_unlock(&(pool->lock));

return 0;
}

int threadpool_free(threadpool_t *pool)
{
if (pool == NULL) {
return -1;
}

if (pool->task_queue) { //释放任务队列
free(pool->task_queue);
}
if (pool->threads) { //释放线程池数组以及各种锁。
free(pool->threads);
pthread_mutex_unlock(&(pool->lock));
pthread_mutex_destroy(&(pool->lock));
pthread_mutex_unlock(&(pool->thread_counter));
pthread_mutex_destroy(&(pool->thread_counter));
pthread_cond_destroy(&(pool->queue_not_empty));
pthread_cond_destroy(&(pool->queue_not_full));
}
free(pool);
pool = NULL;

return 0;
}

int threadpool_destroy(threadpool_t *pool)
{
int i;
if (pool == NULL) {
return -1;
}
pool->shutdown = true;

for (i = 0; i < pool->live_thr_num; i++) {
/*通知所有的空闲线程*/
pthread_cond_broadcast(&(pool->queue_not_empty));
}
for (i = 0; i < pool->live_thr_num; i++) {
pthread_join(pool->threads[i], NULL);
}
threadpool_free(pool);

return 0;
}

///////////////////////////////测试代码////////////////////////////

/* 线程池中的线程，模拟处理业务 */
void *process(void *arg)
{
printf("thread 0x%x working on task %d\n ",(unsigned int)pthread_self(),*(int *)arg);
printf("task %d is end\n",*(int *)arg);

return NULL;
}

int main()
{
// threadpool_t *threadpool_create(int min_thr_num, int max_thr_num, int queue_max_size);
threadpool_t *thp = threadpool_create(3,100,100);/*创建线程池，池里最小3个线程，最大100，队列最大100*/
printf("pool inited\n");

int num[20], i;
for (i = 0; i < 20; i++) {
num[i]=i;
printf("add task %d\n",i);

//int threadpool_add(threadpool_t *pool, void *(*function)(void *arg), void *arg)
threadpool_add(thp, process, (void*)&num[i]); /* 向任务队列中添加任务 */
}
sleep(10); /* 等子线程完成任务 */
printf("clean up thread pool\n");
sleep(1);
threadpool_destroy(thp);

return 0;
}



实验部分结果如下：