线程池原理及其使用场景

为什么要引入线程池
当我们需要的并发执行线程数量很多时，且每个线程执行很短的时间就结束了，这样，我们频繁的创建、销毁线程就大大降低了工作效率（创建和销毁线程需要时间、资源）。
java中的线程池可以达到这样的效果：一个线程执行完任务之后，继续去执行下一个任务，不被销毁，这样线程利用率提高了。

java中的线程池（ThreadPoolExecutor）
说起java中的线程池，就想到java.util.concurrent.ThreadPoolExecutor。ThreadPoolExecutor类是java线程池中的核心类。他的实现方式有四种：

public class ThreadPoolExecutor extends AbstractExecutorService {
　　public ThreadPoolExecutor(int corePoolSize,
　　　　int maximumPoolSize,
　　　　long keepAliveTime,
　　　　TimeUnit unit,
　　　　BlockingQueue<Runnable> workQueue) {
　　　　this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
　　　　Executors.defaultThreadFactory(), defaultHandler);
　　}
 
　　　public ThreadPoolExecutor(int corePoolSize,
　　　　int maximumPoolSize,
　　　　long keepAliveTime,
　　　　TimeUnit unit,
　　　　BlockingQueue<Runnable> workQueue,
　　　　ThreadFactory threadFactory) {
　　　　this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
　　　　threadFactory, defaultHandler);
　　}
 
　　public ThreadPoolExecutor(int corePoolSize,
　　　　int maximumPoolSize,
　　　　long keepAliveTime,
　　　　TimeUnit unit,
　　　　BlockingQueue<Runnable> workQueue,
　　　　RejectedExecutionHandler handler) {
　　　　this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
　　　　Executors.defaultThreadFactory(), handler);
　　}
 
　　public ThreadPoolExecutor(int corePoolSize,
　　　　int maximumPoolSize,
　　　　long keepAliveTime,
　　　　TimeUnit unit,
　　　　BlockingQueue<Runnable> workQueue,
　　　　ThreadFactory threadFactory,
　　　　RejectedExecutionHandler handler) {
　　　　if (corePoolSize < 0 ||
　　　　　　maximumPoolSize <= 0 ||
　　　　　　maximumPoolSize < corePoolSize ||
　　　　　　keepAliveTime < 0)
　　　　　　throw new IllegalArgumentException();
　　　　if (workQueue == null || threadFactory == null || handler == null)
　　　　　　throw new NullPointerException();
　　　　this.corePoolSize = corePoolSize;
　　　　this.maximumPoolSize = maximumPoolSize;
　　　　this.workQueue = workQueue;
　　　　this.keepAliveTime = unit.toNanos(keepAliveTime);
　　　　this.threadFactory = threadFactory;
　　　　this.handler = handler;
}

一、ThreadPoolExecutor的重要参数

1、corePoolSize：核心线程数
     核心线程会一直存活，及时没有任务需要执行
     当线程数小于核心线程数时，即使有线程空闲，线程池也会优先创建新线程处理
     设置allowCoreThreadTimeout=true（默认false）时，核心线程会超时关闭

2、queueCapacity：任务队列容量（阻塞队列）
     当核心线程数达到最大时，新任务会放在队列中排队等待执行

3、maxPoolSize：最大线程数
     当线程数>=corePoolSize，且任务队列已满时。线程池会创建新线程来处理任务
     当线程数=maxPoolSize，且任务队列已满时，线程池会拒绝处理任务而抛出异常

4、 keepAliveTime：线程空闲时间
     当线程空闲时间达到keepAliveTime时，线程会退出，直到线程数量=corePoolSize
     如果allowCoreThreadTimeout=true，则会直到线程数量=0

5、allowCoreThreadTimeout：允许核心线程超时
6、rejectedExecutionHandler：任务拒绝处理器
　　 * 两种情况会拒绝处理任务：
      - 当线程数已经达到maxPoolSize，切队列已满，会拒绝新任务
      - 当线程池被调用shutdown()后，会等待线程池里的任务执行完毕，再shutdown。如果在调用shutdown()和线程池真正shutdown之间提交任务，会拒绝新任务
    * 线程池会调用rejectedExecutionHandler来处理这个任务。如果没有设置默认是AbortPolicy，会抛出异常
    * ThreadPoolExecutor类有几个内部实现类来处理这类情况：
            - AbortPolicy 丢弃任务，抛运行时异常
            - CallerRunsPolicy 执行任务
            - DiscardPolicy 忽视，什么都不会发生
            - DiscardOldestPolicy 从队列中踢出最先进入队列（最后一个执行）的任务
    * 实现RejectedExecutionHandler接口，可自定义处理器

二、ThreadPoolExecutor执行顺序     

线程池按以下行为执行任务
    1. 当线程数小于核心线程数时，创建线程。
    2. 当线程数大于等于核心线程数，且任务队列未满时，将任务放入任务队列。
    3. 当线程数大于等于核心线程数，且任务队列已满
        - 若线程数小于最大线程数，创建线程
        - 若线程数等于最大线程数，抛出异常，拒绝任务

三、如何设置参数

  

1、默认值
        * corePoolSize=1
        * queueCapacity=Integer.MAX_VALUE
        * maxPoolSize=Integer.MAX_VALUE
        * keepAliveTime=60s
        * allowCoreThreadTimeout=false
        * rejectedExecutionHandler=AbortPolicy()

2、如何来设置
        * 需要根据几个值来决定
            - tasks ：每秒的任务数，假设为500~1000
            - taskcost：每个任务花费时间，假设为0.1s
            - responsetime：系统允许容忍的最大响应时间，假设为1s
        * 做几个计算
            - corePoolSize = 每秒需要多少个线程处理？ 
                * threadcount = tasks/(1/taskcost) =tasks*taskcout =  (500~1000)*0.1 = 50~100 个线程。corePoolSize设置应该大于50
                * 根据8020原则，如果80%的每秒任务数小于800，那么corePoolSize设置为80即可
            - queueCapacity = (coreSizePool/taskcost)*responsetime
                * 计算可得 queueCapacity = 80/0.1*1 = 800。意思是队列里的线程可以等待1s，超过了的需要新开线程来执行
                * 切记不能设置为Integer.MAX_VALUE，这样队列会很大，线程数只会保持在corePoolSize大小，当任务陡增时，不能新开线程来执行，响应时间会随之陡增。
            - maxPoolSize = (max(tasks)- queueCapacity)/(1/taskcost)
                * 计算可得 maxPoolSize = (1000-800)/10 = 20
                * （最大任务数-队列容量）/每个线程每秒处理能力 = 最大线程数
            - rejectedExecutionHandler：根据具体情况来决定，任务不重要可丢弃，任务重要则要利用一些缓冲机制来处理
            - keepAliveTime和allowCoreThreadTimeout采用默认通常能满足