「java.util.concurrent并发包7」之 ThreadPoolExecutor
一 异步用new Thread？ 大写的"low"!!
new Thread(new Runnable() { @Override public void run() { // TODO Auto-generated method stub } }).start();
你还在像上面这么用吗，太low了。弊端多多:
1. 每次new Thread新建对象性能差。
2. 线程缺乏统一管理，可能无限制新建线程，相互之间竞争，可能占用系统资源导致死机或oom。
3. 缺乏更多功能，如定时执行、线程中断。
二 juc ThreadPoolExecutor
当一个任务通过execute(Runnable)方法欲添加到线程池时：
如果此时线程池中的数量小于corePoolSize，即使线程池中的线程都处于空闲状态，也要创建新的线程来处理被添加的任务。
如果此时线程池中的数量等于corePoolSize，但是缓冲队列 workQueue未满，那么任务被放入缓冲队列。
如果此时线程池中的数量大于corePoolSize，缓冲队列workQueue满，并且线程池中的数量小于maximumPoolSize，建新的线程来处理被添加的任务。
如果此时线程池中的数量大于corePoolSize，缓冲队列workQueue满，并且线程池中的数量等于maximumPoolSize，那么通过 handler所指定的策略来处理此任务。
处理任务的优先级为：
核心线程corePoolSize > 任务队列workQueue > 最大线程maximumPoolSize. 如果三者都满了，使用handler处理被拒绝的任务。
当线程池中的线程数量大于corePoolSize时，如果某线程空闲时间超过keepAliveTime，线程将被终止。这样，线程池可以动态的调整池中的线程数。
拒绝策略: （记忆口诀： 抛异常 重试 移除最老的 丢弃新增的～）
三 几种典型线程池的源码分析
Java通过Executors提供四种线程池，分别为：
newFixedThreadPool 创建一个定长线程池，可控制线程最大并发数，超出的线程会在队列中等待。
newCachedThreadPool 创建一个可缓存线程池，如果线程池长度超过处理需要，可灵活回收空闲线程（60s不执行任务），若无可回收，则新建线程。
newSingleThreadExecutor 创建一个单线程化的线程池，它只会用唯一的工作线程来串行执行任务，保证所有任务按照指定顺序(FIFO, LIFO)执行。
newScheduledThreadPool 创建一个定长线程池，支持定时及周期性任务执行。
1. FixedThreadPool
- FixedThreadPool的corePoolSize和maxiumPoolSize都被设置为指定的参数nThreads。
- FixedThreadPool使用了无界队列LinkedBlockingQueue作为线程池的工作队列。由于是无界的，当线程池的线程数达到corePoolSize后，新任务将在无界队列中等待，因此线程池的线程数量不会超过corePoolSize，同时maxiumPoolSize也就变成了一个无效的参数，并且运行中的线程池并不会拒绝任务。
-
FixedThreadPool运行图如下
执行过程如下：
1.如果当前工作中的线程数量少于corePool的数量，就创建新的线程来执行任务。
2.当线程池的工作中的线程数量达到了corePool，则将任务加入LinkedBlockingQueue。
3.线程执行完1中的任务后会从队列中取任务。
注意LinkedBlockingQueue是无界队列，所以可以一直添加新任务到线程池。
2. CachedThreadPool
CachedThreadPool是一个”无限“容量的线程池，它会根据需要创建新线程。特点是可以根据需要来创建新的线程执行任务，没有特定的corePool。下面是它的构造方法：
1.首先执行SynchronousQueue.offer(Runnable task)。如果在当前的线程池中有空闲的线程正在执行SynchronousQueue.poll()，那么主线程执行的offer操作与空闲线程执行的poll操作配对成功，主线程把任务交给空闲线程执行。execute()方法执行成功，否则执行步骤2
2.当线程池为空(初始maximumPool为空)或没有空闲线程时，配对失败，将没有线程执行SynchronousQueue.poll操作。这种情况下，线程池会创建一个新的线程执行任务。
3.在创建完新的线程以后，将会执行poll操作。当步骤2的线程执行完成后，将等待60秒，如果此时主线程提交了一个新任务，那么这个空闲线程将执行新任务，否则被回收。因此长时间不提交任务的CachedThreadPool不会占用系统资源。
SynchronousQueue是一个不存储元素阻塞队列，每次要进行offer操作时必须等待poll操作，否则不能继续添加元素。
3. SingleThreadExecutor
SingleThreadExecutor是使用单个worker线程的Executor。特点是使用单个工作线程执行任务。它的构造源码如下：
执行过程如下：
1.如果当前工作中的线程数量少于corePool的数量，就创建一个新的线程来执行任务。
2.当线程池的工作中的线程数量达到了corePool，则将任务加入LinkedBlockingQueue。
3.线程执行完1中的任务后会从队列中取任务。
注意：由于在线程池中只有一个工作线程，所以任务可以按照添加顺序执行。
4. ScheduledThreadPoolExecutor
5. 构造方法手动创建ThreadPoolExecutor
四 引申的几个问题
1. 无限大CachedThreadPool的OOM
ExecutorService executorService = Executors.newCachedThreadPool(); for (int i = 1; i <= 2100; i++) { executorService.submit(() -> { try { Thread.sleep(5000); } catch (Exception e) { //ignore } }); }
Exception in thread "main" java.lang.OutOfMemoryError: unable to create new native thread at java.lang.Thread.start0(Native Method) at java.lang.Thread.start(Thread.java:717) at java.util.concurrent.ThreadPoolExecutor.addWorker(ThreadPoolExecutor.java:950) at java.util.concurrent.ThreadPoolExecutor.execute(ThreadPoolExecutor.java:1368) at java.util.concurrent.AbstractExecutorService.submit(AbstractExecutorService.java:112) at com.balfish.hotel.train.concurrent.countDownLatch.CountDownLatchMain.main(CountDownLatchMain.java:31)
可以看出来是堆外内存溢出，因为我们新建的线程都在工作（代码中用sleep模拟在工作中），newCachedThreadPool 只会重用空闲并且可用的线程，所以上述代码只能不停地创建新线程，
在 64-bit JDK 1.7 中 -Xss 默认是1024k，也就是 1M，那就是需要 2100*1M = 2.1G 的堆外内存空间来给线程使用，机器内存分配不够创建新的线程，所以就 OOM 了。
newCachedThreadPool最大值初始化时默认为Integer.MAX_VALUE，一般来说机器都没那么大内存给它不断使用。那么我们一般去重写一个方法限制一下这个最大值，或者看下newFixedThreadPool是否满足
2. ArrayBlockingQueue 和 LinkedBlockingQueue 的区别
（1）一把锁 vs 分离锁
ArrayBlockingQueue中的锁是没有分离的，即生产者和消费者用的是一个锁
LinkedBlockingQueue的锁是分离的，即生产用的是putLock，消费用的是takeLock
（2）数组 vs 链表
ArrayBlockingQueue基于数组，生产和消费的时候，直接将枚举对象插入或移除，不会有额外的对象实例的空间开销
LinkedBlockingQueue基于链表，生产和消费的时候，需要把枚举转换为Node<E>进行插入或移除，有额外的Node对象开销。这在大批量并发处理数据时，对GC有一定影响
（3）队列长度
ArrayBlockingQueue是有界的，必须指定队列大小
LinkedBlockingQueue是无界的，可以不指定队列的大小，默认是Integer.MAX_VALUE。(也可以指定队列大小，从而成为有界的)
（4）队列效率
ArrayBlockingQueue快。LinkedBlockingQueue用默认大小且生产速度大于消费速度时候，可能会OOM
3. shutdown和shutdownNow
可以调用线程池的shutdown或者shutdownNow方法来关闭线程池。他们的原理是遍历线程池的工作线程，然后逐个调用线程的interrupt方法来中断线程，所以无法响应中断的任务可能永远无法停止。
区别：
shutdown方法将执行平缓的关闭过程：不再接收新的任务，同时等待已提交的任务执行完成, 包括那些还未开始执行的任务。(记忆口诀：手上的这个做完就滚～)
shutdownNow方法将执行粗暴的关闭过程：它将尝试取消所有运行中的任务，并且不再启动队列中尚未开始执行的任务。(记忆口诀：手上事也放下，马上就滚～)
只要调用了这两个关闭方法中的任意一个,isShutdown方法就会返回true，当所有的任务都已关闭后，才表示线程池关闭成功，这时调用isTerminated方法会返回true。至于应该调用哪一种方法来关闭线程池，应该由提交到线程池的任务特性决定，通常调用shutdown方法来关闭线程池，如果任务不一定要执行完，则可以调用shutdownNow方法。
4. 线程池常用的阻塞队列有哪些？
新任务来的时候会先判断当前运行的线程数量是否达到核心线程数，如果达到的话，新任务就会被存放在队列中。
不同的线程池会选用不同的阻塞队列，我们可以结合内置线程池来分析。
- 容量为
Integer.MAX_VALUE的LinkedBlockingQueue（无界队列）：FixedThreadPool和SingleThreadExector。FixedThreadPool最多只能创建核心线程数的线程（核心线程数和最大线程数相等），SingleThreadExector只能创建一个线程（核心线程数和最大线程数都是 1），二者的任务队列永远不会被放满。 SynchronousQueue（同步队列）：CachedThreadPool。SynchronousQueue没有容量，不存储元素，目的是保证对于提交的任务，如果有空闲线程，则使用空闲线程来处理；否则新建一个线程来处理任务。也就是说，CachedThreadPool的最大线程数是Integer.MAX_VALUE，可以理解为线程数是可以无限扩展的，可能会创建大量线程，从而导致 OOM。DelayedWorkQueue（延迟阻塞队列）：ScheduledThreadPool。DelayedWorkQueue的内部元素并不是按照放入的时间排序，而是会按照延迟的时间长短对任务进行排序，内部采用的是“堆”的数据结构，可以保证每次出队的任务都是当前队列中执行时间最靠前的。DelayedWorkQueue添加元素满了之后会自动扩容原来容量的 1/2，即永远不会阻塞，最大扩容可达Integer.MAX_VALUE，所以最多只能创建核心线程数的线程。
