前言

如果并发的线程数量很多，并且每个线程都是执行一个时间很短的任务就结束了，这样频繁创建线程就会大大降低系统的效率，因为频繁创建线程和销毁线程需要时间。

那么有没有一种办法使得线程可以复用，就是执行完一个任务，并不被销毁，而是可以继续执行其他的任务？

在Java中可以通过线程池来达到这样的效果。今天我们就来详细讲解一下Java的线程池，首先我们从最核心的ThreadPoolExecutor类中的方法讲起，然后再讲述它的实现原理，接着给出了它的使用示例，最后讨论了一下如何合理配置线程池的大小。

Java中的ThreadPoolExecutor类

java.uitl.concurrent.ThreadPoolExecutor类是线程池中最核心的一个类，因此如果要透彻地了解Java中的线程池，必须先了解这个类。下面我们来看一下ThreadPoolExecutor类的具体实现源码。

构造方法

public class ThreadPoolExecutor extends AbstractExecutorService {
    ........
    public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue);
 
    public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, ThreadFactory threadFactory);
 
    public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, RejectedExecutionHandler handler);
 
    public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, ThreadFactory threadFactory, RejectedExecutionHandler handler);
    ........
}

从上面的源码中我们可以看到，ThreadPoolExecutor是继承于AbstractExecutorService类，并提供了四个构造器，事实上，前三个构造器都是通过第四个构造器进行初始化工作的。

构造方法参数含义

corePoolSize：线程池核心线程数大小

这个参数与后面讲述的线程池工作原理有很大的关系。在创建了线程池之后，默认是没有任何线程的，而是等待有任务到来时才会创建线程去执行任务，除非调用 prestartAllCoreThreads() 或者 prestartCoreThread() 方法时，会创建全部或者一个核心线程。在默认情况下，当有任务到来时，创建工作线程去执行任务，当线程池中的线程数目到达corePoolSize时，就会把提交的任务放到等待队列中。

maximumPoolSize：线程池最大线程数

它标识线程池中最大可创建的多少个线程

keepAliveTime：空闲线程存活时间

这个参数只有线程池中的线程数达到corePoolSize时才会起效，直到线程池中的线程数小于等于corePoolSize。如果调用allowCoreThreadTimeOut(boolean value)方法，则当线程池中的线程数小于等于corePoolSize，keepAliveTime参数也会起作用，直到线程池中的线程数为0

unit：空闲线程存活时间单位

该参数的值是TimeUnit的7个静态属性：

TimeUnit.DAYS;               //天
TimeUnit.HOURS;             //小时
TimeUnit.MINUTES;           //分钟
TimeUnit.SECONDS;           //秒
TimeUnit.MILLISECONDS;      //毫秒
TimeUnit.MICROSECONDS;      //微妙
TimeUnit.NANOSECONDS;       //纳秒

workQueue：任务等待队列

一个阻塞队列，用来存储等待执行的任务。这个参数非常重要，会对线程池的运行产生很大的影响。一般来说，阻塞队列有如下几种选择：

ArrayBlockingQueue;
LinkedBlockingQueue;
SynchronousQueue;

ArrayBlockingQueue和PriorityBlockingQueue使用较少，一般使用LinkedBlockingQueue和Synchronous。线程池的排队策略与BlockingQueue有关。

threadFactory：线程工厂

主要用来创建线程

handler：表示当拒绝处理任务时的策略

有以下四种取值：

ThreadPoolExecutor.AbortPolicy:丢弃任务并抛出RejectedExecutionException异常。
ThreadPoolExecutor.DiscardPolicy：也是丢弃任务，但是不抛出异常。
ThreadPoolExecutor.DiscardOldestPolicy：丢弃队列最前面的任务，然后重新尝试执行任务（重复此过程）
ThreadPoolExecutor.CallerRunsPolicy：由调用线程处理该任务

源码解析

从上面给出的ThreadPoolExecutor类的代码可以知道，ThreadPoolExecutor继承了AbstractExecutorService，我们来看一下AbstractExecutorService的实现：

public abstract class AbstractExecutorService implements ExecutorService {
    protected <T> RunnableFuture<T> newTaskFor(Runnable runnable, T value) { };
    protected <T> RunnableFuture<T> newTaskFor(Callable<T> callable) { };
    public Future<?> submit(Runnable task) {};
    public <T> Future<T> submit(Runnable task, T result) { };
    public <T> Future<T> submit(Callable<T> task) { };
    private <T> T doInvokeAny(Collection<? extends Callable<T>> tasks,
                            boolean timed, long nanos)
        throws InterruptedException, ExecutionException, TimeoutException {
    };
    public <T> T invokeAny(Collection<? extends Callable<T>> tasks)
        throws InterruptedException, ExecutionException {
    };
    public <T> T invokeAny(Collection<? extends Callable<T>> tasks,
                           long timeout, TimeUnit unit)
        throws InterruptedException, ExecutionException, TimeoutException {
    };
    public <T> List<Future<T>> invokeAll(Collection<? extends Callable<T>> tasks)
        throws InterruptedException {
    };
    public <T> List<Future<T>> invokeAll(Collection<? extends Callable<T>> tasks,
                                         long timeout, TimeUnit unit)
        throws InterruptedException {
    };
}

AbstractExecutorService是一个抽象类，它实现了ExecutorService接口。

public interface ExecutorService extends Executor {
    // 关闭线程池，队列中已经存在的任务还可以被继续执行
    void shutdown();
    // 关闭线程池，中断正在执行的任务
    List<Runnable> shutdownNow();
    // 判断线程池是否关闭
    boolean isShutdown();
    // 判断线程池是否终止
    boolean isTerminated();
    // 设置超时终止
    boolean awaitTermination(long timeout, TimeUnit unit) throws InterruptedException;
    // 提交Callable任务
    <T> Future<T> submit(Callable<T> task);
    // 提交Runnable任务，并带返回值
    <T> Future<T> submit(Runnable task, T result);
    // 提交Runnable任务，不带返回值
    Future<?> submit(Runnable task);
    // invokeAll是同步的，需要等待其他任务完成才会返回结果。而Submit是异步的
    <T> List<Future<T>> invokeAll(Collection<? extends Callable<T>> tasks) throws InterruptedException;
    <T> List<Future<T>> invokeAll(Collection<? extends Callable<T>> tasks, long timeout, TimeUnit unit) throws InterruptedException;
    // invokeAny是取第一个任务的返回值，并中断其他任务
    <T> T invokeAny(Collection<? extends Callable<T>> tasks) throws InterruptedException, ExecutionException;
    <T> T invokeAny(Collection<? extends Callable<T>> tasks, long timeout, TimeUnit unit) throws InterruptedException, ExecutionException, TimeoutException;
}

而ExecutorService又是继承了Executor接口，我们看一下Executor接口的实现：

public interface Executor {
    // 启动任务
    void execute(Runnable command);
}

到这里，我们应该可以看到ThreadPoolExecutor、AbstractExecutorService、ExecutorService和Executor几个之间的关系了。

Executor是一个顶层接口，它只声明了一个execute(Runnable)方法，返回值是void，参数是Runnable，从字面意思可以理解，这个是用来执行传入的线程任务的。

然后ExecutorService接口继承了Executor接口，并声明了一些方法：submit、invokeAll、invokeAny以及shutDown等；

抽象类AbstractExecutorService实现了ExecutorService接口，基本实现了ExecutorService中声明的所有方法；

然后ThreadPoolExecutor继承了类AbstractExecutorService。整体类图如下：

在ThreadPoolExecutor类中有几个非常重要的方法：

// Executor中声明的方法，在ThreadPoolExecutor进行了具体的实现，这个方法是ThreadPoolExecutor的核心方法，通过这个方法可以向线程池提交一个任务，交由线程池去执行
execute()
// ExecutorService中声明的方法，在AbstractExecutorService就已经有了具体的实现，在ThreadPoolExecutor中并没有对其进行重写，这个方法也是用来向线程池提交任务的，但是它和execute()方法不同，它能够返回任务执行的结果，去看submit()方法的实现，会发现它实际上还是调用的execute()方法，只不过它利用了Future来获取任务执行结果
submit()
// 关闭线程池，会在线程池中的线程执行完成后关闭，执行完该方法后，不再接受新的任务
shutdown()
// 立即关闭线程池
shutdownNow()

深入剖析线程池的实现原理

线程池状态

在ThreadPoolExecutor中定义了几个static final变量表示线程池的各个状态：

// 线程池使用一个int来存储线程池当前的状态和工作线程数
// int是4字节，32位，用高三位存储线程池的工作状态，低29位存储线程池的工作线程数
// 为什么这样？节省空间，一个int可以表述两个含义
private final AtomicInteger ctl = new AtomicInteger(ctlOf(RUNNING, 0));
// 29
private static final int COUNT_BITS = Integer.SIZE - 3;
 
 
// 创建线程池后，初始时的线程池状态
private static final int RUNNING    = -1 << COUNT_BITS;
// 调用了shutdown()方法后，线程池状态。此时线程池不再接受新任务，它会等待所有任务执行完毕
private static final int SHUTDOWN   =  0 << COUNT_BITS;
// 调用了shotdownNow()方法后，线程池状态。此时线程池不再接收新任务，并尝试主动终止正在执行的任务
private static final int STOP       =  1 << COUNT_BITS;
// 临时过渡状态，所有任务都执行完了，当线程池的有效线程数为0时，这个时候为该状态。执行terminated()方法，流转下一个状态
private static final int TIDYING    =  2 << COUNT_BITS;
// 终止状态，terminated()方法完成后的状态
private static final int TERMINATED =  3 << COUNT_BITS;

任务的执行

在了解任务提交到线程池到任务执行完成的整个过程前，我们先来看下ThreadPoolExecutor中比较重要的成员变量：

// 任务缓存队列，用来存放等待执行的任务
private final BlockingQueue<Runnable> workQueue;
// 线程池的主要状态锁，对线程池的状态及属性的变化，都要依赖这个锁来保证同步
private final ReentrantLock mainLock = new ReentrantLock();
// 用来存放工作集
private final HashSet<Worker> workers = new HashSet<Worker>(); 
// 线程空闲时间
private volatile long keepAliveTime;
// 是否允许为核心线程设置存活时间
private volatile boolean allowCoreThreadTimeOut;  
// 核心池的大小（即线程池中的线程数目大于这个参数时，提交的任务会被放进任务缓存队列）
private volatile int   corePoolSize;
// 线程池最大能容忍的线程数
private volatile int   maximumPoolSize;
// 当前线程池的线程数
private volatile int   poolSize;
// 线程池的拒绝策略
private volatile RejectedExecutionHandler handler;
// 线程工厂，用来创建线程
private volatile ThreadFactory threadFactory; 
// 用来记录线程池中曾经出现过的最大线程数
private int largestPoolSize;
// 用来记录已经执行完毕的任务个数 
private long completedTaskCount;

每个变量的作用都已经标明出来了，这里要重点解释一下corePoolSize、maximumPoolSize、largestPoolSize三个变量。

corePoolSize在很多地方都被翻译成核心线程数量，但是我的理解是这个值就是线程池的大小。举个例子：假如一个工厂有10个工人，当有人空闲的时候，就分配任务给一个工人。如果10个工人都在忙碌，就把任务置放在等待队列。如果任务繁多，就招临时工进行工作（maximumPoolSize）。当任务增长缓和，就辞退临时工，只保持10个工人。不过为了保持认知的一致性，本文还是继续将corePoolSize解释为核心线程数。

largestPoolSize只是一个用来记录的变量，和线程池的容量没有关系。

任务执行的生命周期

在ThreadPoolExecutor类中，最核心的任务提交方法是execute()方法，虽然通过submit也可以提交任务，但是实际上submit方法里面最终调用的还是execute()方法，所以我们只需要研究execute()方法的实现原理即可。

execute()方法

public void execute(Runnable command) {
    // 判断提交的任务是否为空
    if (command == null)
        throw new NullPointerException();
    // 获取线程池状态和工作线程数量结合体(下文统称为ctl)
    int c = ctl.get();
    // 判断工作线程数量是否小于核心线程数
    if (workerCountOf(c) < corePoolSize) {
        // 把任务添加Worker，添加成功则返回
        if (addWorker(command, true))
            return;
        // 添加失败，再次获取ctl
        c = ctl.get();
    }
    // 如果线程池的状态是运行中，并且向等待队列提交成功
    if (isRunning(c) && workQueue.offer(command)) {
        // double-check机制，如果线程池已经不是running状态，就要把提交的任务移除并拒绝
        int recheck = ctl.get();
        if (! isRunning(recheck) && remove(command))
            reject(command);
        else if (workerCountOf(recheck) == 0)
            // 如果核心线程都超时退出，因为任务已经放入队列，所以不需要再提交一个任务，同时创建一个线程并启动
            addWorker(null, false);
    }
    // 执行到这里有两种情况
    // 1. 线程池已经不是RUNNING状态  2.等待队列的长度已经超过定义
    else if (!addWorker(command, false))
        reject(command);
}

addWorker()方法

private boolean addWorker(Runnable firstTask, boolean core) {
    retry:
    for (;;) {
        int c = ctl.get();
        // 获取线程池运行状态
        int rs = runStateOf(c);
 
        // Check if queue empty only if necessary.
        // 如果线程池的状态是：STOP TYDING TERMINATD状态，直接返回false，任务添加失败
        // 如果线程池的状态为SHUTDOWN 同时first！=null 或者 workQueue为空，任务添加失败。此时代表：线程池已经停止，正在等待仅有的一个任务执行完成
        // 为什么要做两次判断？有可能任务是在线程池RUNNING状态的时候将任务到队列中，但是放入完成后状态变为SHUTDOWN，此时不应该再执行新的任务
        if (rs >= SHUTDOWN &&
            ! (rs == SHUTDOWN &&
               firstTask == null &&
               ! workQueue.isEmpty()))
            return false;
 
        for (;;) {
            int wc = workerCountOf(c);
            if (wc >= CAPACITY ||
                wc >= (core ? corePoolSize : maximumPoolSize))
                return false;
            if (compareAndIncrementWorkerCount(c))
                break retry;
            c = ctl.get();  // Re-read ctl
            if (runStateOf(c) != rs)
                continue retry;
            // else CAS failed due to workerCount change; retry inner loop
        }
    }
 
    boolean workerStarted = false;
    boolean workerAdded = false;
    Worker w = null;
    try {
        w = new Worker(firstTask);
        final Thread t = w.thread;
        if (t != null) {
            final ReentrantLock mainLock = this.mainLock;
            mainLock.lock();
            try {
                // Recheck while holding lock.
                // Back out on ThreadFactory failure or if
                // shut down before lock acquired.
                int rs = runStateOf(ctl.get());
 
                if (rs < SHUTDOWN ||
                    (rs == SHUTDOWN && firstTask == null)) {
                    if (t.isAlive()) // precheck that t is startable
                        throw new IllegalThreadStateException();
                    workers.add(w);
                    int s = workers.size();
                    if (s > largestPoolSize)
                        largestPoolSize = s;
                    workerAdded = true;
                }
            } finally {
                mainLock.unlock();
            }
            if (workerAdded) {
                t.start();
                workerStarted = true;
            }
        }
    } finally {
        if (! workerStarted)
            addWorkerFailed(w);
    }
    return workerStarted;
}

嘟神子

线程池

前言