一、线程池概述

1、简介

  线程池(英语: thread pool):一种线程使用模式。线程过多会带来调度开销,进而影响缓存局部性和整体性能。而线程池维护着多个线程,等待着监督管理者分配可并发执行的任务。这避免了在处理短时间任务时创建与销毁线程的代价。线程池不仅能够保证内核的充分利用,还能防止过分调度。

  例子: 10 年前单核 CPU 电脑,假的多线程,像马戏团小丑玩多个球, CPU 需要来回切换。 现在是多核电脑,多个线程各自跑在独立的 CPU 上,不用切换效率高。

2、优势

  线程池做的工作只要是控制运行的线程数量,处理过程中将任务放入队列,然后在线程创建后启动这些任务,如果线程数量超过了最大数量,超出数量的线程排队等候,等其他线程执行完毕,再从队列中取出任务来执行。

3、特点

  第一:降低资源消耗。通过重复利用已经创建的线程降低线程创建和销毁造成的消耗。
  第二:提高响应速度。当任务到达时,任务可以不需要等待线程就能立即执行。
  第三:提高线程的可管理性。线程是稀缺资源,如果无限制的创建,不仅会消耗系统资源,还会降低系统的稳定性,使用线程池可以统一的分配,调优和监控。

  线程池主要特点是:线程复用;控制最大并发数;管理线程。

 

二、线程池架构

1、线程池架构

  Java 中的线程池是通过 Executor 框架实现的,该框架中用到了 Executor,Executors,ExecutorService,ThreadPoolExecutor 这几个类。
  

 

三、线程池使用方式

线程池的种类与创建

1、Executors.newFixedThreadPool(int nThreads): 一池N线程(常用)

  作用创建一个可重用固定线程数的线程池,以共享的无界队列方式来运行这些线程。在任意点,在大多数线程会处于处理任务的活动状态。如果在所有线程处于活动状态时提交附加任务,则在有可用线程之前,附加任务将在队列中等待。如果在关闭前的执行期间由于失败而导致任何线程终止,那么一个新线程将代替它执行后续的任务(如果需要)。在某个线程被显式地关闭之前,池中的线程将一直存在。 

  特征

  ① 执行长期任务性能好,创建一个线程池,一池有 N 个固定的线程,有固定的线程数的线程。
  ② 线程池中的线程处于一定的量,可以很好的控制线程的并发量;;
  ③ 线程可以重复被使用,在显示关闭之前,都将一直存在;;
  ④ 超出一定量的线程被提交时候需在队列中等待;

  创建方式

    /**
     * 固定长度线程池
     * @return
     */
    public static ExecutorService newFixedThreadPool(){
    /**
     * corePoolSize 线程池的核心线程数
     * maximumPoolSize 能容纳的最大线程数
     * keepAliveTime 空闲线程存活时间
     * unit 存活的时间单位
     * workQueue 存放提交但未执行任务的队列
     * threadFactory 创建线程的工厂类:可以省略
     * handler 等待队列满后的拒绝策略:可以省略
     */
        return new ThreadPoolExecutor(10,
                10,
                0L,
                TimeUnit.SECONDS,
                new LinkedBlockingQueue<>(),
                Executors.defaultThreadFactory(),
                new ThreadPoolExecutor.AbortPolicy());
    }

  场景适用于可以预测线程数量的业务中,或者服务器负载较重,对线程数有严格限制的场景。

 

2、Executors.newSingleThreadExecutor():一个任务一个任务执行,一池一线程(常用)

  作用创建一个使用单个 worker 线程的 Executor,以无界队列方式来运行该线程。(注意,如果因为在关闭前的执行期间出现失败而终止了此单个线程,那么如果需要,一个新线程将代替它执行后续的任务)。可保证顺序地执行各
个任务,并且在任意给定的时间不会有多个线程是活动的。与其他等效的newFixedThreadPool 不同,可保证无需重新配置此方法所返回的执行程序即可使用其他的线程。

  特征线程池中最多执行 1 个线程,之后提交的线程活动将会排在队列中以此执行。

  创建方式

    /**
     * 单一线程池
     * @return
     */
    public static ExecutorService newSingleThreadExecutor(){
    /**
     * corePoolSize 线程池的核心线程数
     * maximumPoolSize 能容纳的最大线程数
     * keepAliveTime 空闲线程存活时间
     * unit 存活的时间单位
     * workQueue 存放提交但未执行任务的队列
     * threadFactory 创建线程的工厂类:可以省略
     * handler 等待队列满后的拒绝策略:可以省略
     */
        return new ThreadPoolExecutor(1,
                1,
                0L,
                TimeUnit.SECONDS,
                new LinkedBlockingQueue<>(),
                Executors.defaultThreadFactory(),
                new ThreadPoolExecutor.AbortPolicy());
    }

  场景适用于需要保证顺序执行各个任务,并且在任意时间点,不会同时有多个线程的场景。

 

3、Executors.newCachedThreadPool():线程池根据需求创建线程,可扩容,遇强则强

  作用创建一个可缓存线程池,如果线程池长度超过处理需要,可灵活回收空闲线程,若无可回收,则新建线程。

  特点

  ① 线程池中数量没有固定,可达到最大值(Interger. MAX_VALUE)

  ② 线程池中的线程可进行缓存重复利用和回收(回收默认时间为 1 分钟)

  ③ 当线程池中,没有可用线程,会重新创建一个线程;

    ④ 执行很多短期异步任务,线程池根据需要创建新线程,但在先前构建的线程可用时将重用它们。可扩容,遇强则强。

  创建方式

    /**
     * 可缓存线程池
     * @return
     */
    public static ExecutorService newCachedThreadPool(){
    /**
     * corePoolSize 线程池的核心线程数
     * maximumPoolSize 能容纳的最大线程数
     * keepAliveTime 空闲线程存活时间
     * unit 存活的时间单位
     * workQueue 存放提交但未执行任务的队列
     * threadFactory 创建线程的工厂类:可以省略
     * handler 等待队列满后的拒绝策略:可以省略
     */
        return new ThreadPoolExecutor(0,
                Integer.MAX_VALUE,
                60L,
                TimeUnit.SECONDS,
                new SynchronousQueue<>(),
                Executors.defaultThreadFactory(),
                new ThreadPoolExecutor.AbortPolicy());
    }

  场景适用于创建一个可无限扩大的线程池,服务器负载压力较轻,执行时间较短,任务多的场景。

 

4、Executors.newScheduleThreadPool(了解)

  作用线程池支持定时以及周期性执行任务,创建一个 corePoolSize 为传入参数,最大线程数为整形的最大数的线程池

  特征

  ① 线程池中具有指定数量的线程,即便是空线程也将保留;

  ② 可定时或者延迟执行线程活动;

  创建方式

    public static ScheduledExecutorService newScheduledThreadPool(int corePoolSize, ThreadFactory threadFactory) {
        return new ScheduledThreadPoolExecutor(corePoolSize, threadFactory);
    }

  场景适用于需要多个后台线程执行周期任务的场景。

 

5、EXecutors.newWorkStealingPool

  jdk1.8 提供的线程池,底层使用的是 ForkJoinPool 实现,创建一个拥有多个任务队列的线程池,可以减少连接数,创建当前可用 cpu 核数的线程来并行执行任务。

  创建方式

    public static ExecutorService newWorkStealingPool(int parallelism) {
    /**
     * parallelism:并行级别,通常默认为 JVM 可用的处理器个数
     * factory:用于创建 ForkJoinPool 中使用的线程。
     * handler:用于处理工作线程未处理的异常,默认为 null
     * asyncMode:用于控制 WorkQueue 的工作模式:队列---反队列
     */
        return new ForkJoinPool(parallelism,
                ForkJoinPool.defaultForkJoinWorkerThreadFactory,
                null,
                true);
    }

  场景适用于大耗时,可并行执行的场景

 

示例代码:

//演示线程池三种常用分类
public class ThreadPoolDemo1 {

    public static void main(String[] args) {
        //一池五线程
        ExecutorService threadPool1 = Executors.newFixedThreadPool(5); //类似于银行5个受理窗口

        //一池一线程
        ExecutorService threadPool2 = Executors.newSingleThreadExecutor(); //类似于银行1个受理窗口

        //一池可扩容线程
        ExecutorService threadPool3 = Executors.newCachedThreadPool(); //一个银行网点,可扩展受理业务的窗口

        //10个顾客请求
        try {
            for (int i = 1; i <=10; i++) {
                //执行
                threadPool3.execute(()->{
                    System.out.println(Thread.currentThread().getName()+" 办理业务");
                });
            }
        }catch (Exception e) {
            e.printStackTrace();
        }finally {
            //关闭,返回线程
            threadPool3.shutdown();
        }

    }
}

 

四、线程池底层原理

  来看一下上面常用的三个线程池的底层实现:

  (1)newFixedThreadPool

    

    newFixedThreadPool创建的线程池corePoolSize和maximumPoolSize值是相等的,阻塞队列它使用的是LinkedBlockingQueue。

 

  (2)newSingleThreadExecutor

    

    newSingleThreadExecutor 创建的线程池corePoolSize和maximumPoolSize值都是1,它使用的是LinkedBlockingQueue。

 

  (3)newCachedThreadPool

    

     newCachedThreadPool创建的线程池将corePoolSize设置为0,将maximumPoolSize设置为Integer.MAX_VALUE,它使用的是SynchronousQueue,也就是说来了任务就创建线程运行,当线程空闲超过60秒,就销毁线程。

   可以看到这三中线程池创建都是使用 ThreadPoolExecutors。

  

 

五、线程池的七个参数

  ThreadPoolExecutors 的全参构造函数:

  

 

   七个参数说明:(重点

1、corePoolSize:线程池中的常驻核心线程数
 
2、maximumPoolSize:线程池中能够容纳同时执行的最大线程数,此值必须大于等于1
 
3、keepAliveTime:多余的空闲线程的存活时间,当前池中线程数量超过 corePoolSize时,当空闲时间达到 keepAliveTime 时,多余线程会被销毁直到只剩下 corePoolSize 个线程为止
 
4、unit:keepAliveTime 的单位,TimeUnit 类中的类型
 
5、workQueue:任务队列,被提交但尚未被执行的任务
 
6、ThreadFactory:表示生成线程池中工作线程的线程工厂,用于创建线程,一般默认的即可
 
7、Handler:拒绝策略,表示当队列满了,并且工作线程大于等于线程池的最大线程数(maximumPoolSize) 时如何来拒绝请求执行的 Runnable 的策略。

  

 

  七个参数(重点)

• corePoolSize 线程池的核心线程数
• maximumPoolSize 能容纳的最大线程数
• keepAliveTime 空闲线程存活时间
• unit 存活的时间单位
• workQueue 存放提交但未执行任务的队列
• threadFactory 创建线程的工厂类
• handler 等待队列满后的拒绝策略

 

 

  线程池中,有三个重要的参数,决定影响了拒绝策略:

  corePoolSize - 核心线程数,也即最小的线程数。

  workQueue - 阻塞队列 。

  maximumPoolSize - 最大线程数。

  当提交任务数大于 corePoolSize 的时候,会优先将任务放到 workQueue 阻塞队列中。当阻塞队列饱和后,会扩充线程池中线程数,直到达到 maximumPoolSize 最大线程数配置。此时,再多余的任务,则会触发线程池的拒绝策略了。

  总结起来,也就是一句话, 当提交的任务数大于(workQueue.size() + maximumPoolSize ),就会触发线程池的拒绝策略。

 

六、线程池的工作流程(重要)

  

 

  

 

   

 

   

  工作流程重要!!!
  1、在创建了线程池后,线程池中的线程数为零,开始等待请求。
  2、当调用 execute() 方法添加一个请求任务时,线程池会做出如下判断:
    ① 如果正在运行的线程数量小于 corePoolSize,那么马上创建线程运行这个任务;
    ② 如果正在运行的线程数量大于或等于 coolPoolSize,那么将这个任务放入队列
    ③ 如果这个时候队列满了且正在运行的线程数量还小于 maximumPoolsize,那么还是要创建非核心线程立刻运行这个任务;
    ④ 如果队列满了且正在运行的线程数量大于或等于 maximumPoolSize,那么线程池会启动饱和拒绝策略来执行。
  3、当一个线程完成任务时,它会从队列中取下一个任务来执行;
  4、当一个线程无事可做超过一定的时间(keepAliveTime)时,线程会判断:
    ① 如果当前运行的线程数大于 coolPoolSize,那么这个线程就被停掉;
    ② 所以线程池的所有任务完成后,它最终会收缩到 corePoolSize 的大小
 
  细节:
  (1)当执行了 execute() 方法,才开始创建线程;
  (2)当常驻核心线程满了,任务队列也满了,再有任务会创建线程直接执行新任务,不会再放入任务队列。

 

七、线程池的拒绝策略

  

 

1、拒绝策略是什么

  等待队列已经排满了,再也塞不下新任务了,同时线程池中的 max 线程也达到了,无法继续为新任服务。
  这个时候就需要拒绝策略机制合理的处理这个问题。
 

2、JDK 的内置的拒绝策略(重点)

  (1)AbortPolicy(默认):中断、直接抛出RejectedExecutionException异常阻止系统正常运行;
    丢弃任务,并抛出拒绝执行 RejectedExecutionException 异常信息。线程池默认的拒绝策略。必须处理好抛出的异常,否则会打断当前的执行流程,影响后续的任务执行。
 
  (2)CallerRunsPolicy:“调用者运行”一种调节机制,该策略既不会抛弃任务,也不会抛出异常,而是将某些任务回退到调用者,从而降低新任务的流量。
    当触发拒绝策略,只要线程池没有关闭的话,则使用调用线程直接运行任务。一般并发比较小,性能要求不高,不允许失败。但是,由于调用者自己运行任务,如果任务提交速度过快,可能导致程序阻塞,性能效率上必然的损失较大。
 
  (3)DiscardOldestPolicy:抛弃队列中等待最久的任务,然后把当前任务加人队列中尝试再次提交当前任务。
    当触发拒绝策略,只要线程池没有关闭的话,丢弃阻塞队列 workQueue 中最老的一个任务,并将新任务加入。
 
  (4)DiscardPolicy:该策略默默地丢弃无法处理的任务,不予任何处理也不抛出异常。如果允许任务丢失,这是最好的一种策略。
 
  以上的内置拒绝策略均实现了 RejectedExecutionHandler 接口。
  

  我们也可以实现该接口自定义拒绝策略,例如可以把线程持久化下来,通过定时任务来执行。

 

   源码:

    /* Predefined RejectedExecutionHandlers */

    /**
     * A handler for rejected tasks that runs the rejected task
     * directly in the calling thread of the {@code execute} method,
     * unless the executor has been shut down, in which case the task
     * is discarded.
     */
    public static class CallerRunsPolicy implements RejectedExecutionHandler {
        /**
         * Creates a {@code CallerRunsPolicy}.
         */
        public CallerRunsPolicy() { }

        /**
         * Executes task r in the caller's thread, unless the executor
         * has been shut down, in which case the task is discarded.
         *
         * @param r the runnable task requested to be executed
         * @param e the executor attempting to execute this task
         */
        public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
            if (!e.isShutdown()) {
                r.run();
            }
        }
    }

    /**
     * A handler for rejected tasks that throws a
     * {@code RejectedExecutionException}.
     */
    public static class AbortPolicy implements RejectedExecutionHandler {
        /**
         * Creates an {@code AbortPolicy}.
         */
        public AbortPolicy() { }

        /**
         * Always throws RejectedExecutionException.
         *
         * @param r the runnable task requested to be executed
         * @param e the executor attempting to execute this task
         * @throws RejectedExecutionException always
         */
        public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
            throw new RejectedExecutionException("Task " + r.toString() +
                                                 " rejected from " +
                                                 e.toString());
        }
    }

    /**
     * A handler for rejected tasks that silently discards the
     * rejected task.
     */
    public static class DiscardPolicy implements RejectedExecutionHandler {
        /**
         * Creates a {@code DiscardPolicy}.
         */
        public DiscardPolicy() { }

        /**
         * Does nothing, which has the effect of discarding task r.
         *
         * @param r the runnable task requested to be executed
         * @param e the executor attempting to execute this task
         */
        public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
        }
    }

    /**
     * A handler for rejected tasks that discards the oldest unhandled
     * request and then retries {@code execute}, unless the executor
     * is shut down, in which case the task is discarded.
     */
    public static class DiscardOldestPolicy implements RejectedExecutionHandler {
        /**
         * Creates a {@code DiscardOldestPolicy} for the given executor.
         */
        public DiscardOldestPolicy() { }

        /**
         * Obtains and ignores the next task that the executor
         * would otherwise execute, if one is immediately available,
         * and then retries execution of task r, unless the executor
         * is shut down, in which case task r is instead discarded.
         *
         * @param r the runnable task requested to be executed
         * @param e the executor attempting to execute this task
         */
        public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
            if (!e.isShutdown()) {
                e.getQueue().poll();
                e.execute(r);
            }
        }
    }

 

 

七、自定义线程池

1、在工作中单一的/固定数的/可变的三种创建线程池的方法哪个用的多?

  答案是:一个都不用,工作中只能使用自定义的!!!
  Executors 中 JDK 已经提供了,为什么不用?为什么不允许适用不允许 Executors.的方式手动创建线程池,如下图
  

 

   项目中创建多线程时,使用常见的三种线程池创建方式,单一、可变、定长都有一定问题,原因是 FixedThreadPool 和 SingleThreadExecutor 底层都是用LinkedBlockingQueue 实现的,这个队列最大长度为 Integer.MAX_VALUE,容易导致 OOM。所以实际生产一般自己通过 ThreadPoolExecutor 的 7 个参数,自定义线程池。

 

2、在工作中如何使用线程池,是否自定义过线程池

  创建线程池推荐适用 ThreadPoolExecutor 及其 7 个参数手动创建

corePoolSize 线程池的核心线程数
maximumPoolSize 能容纳的最大线程数
keepAliveTime 空闲线程存活时间
unit 存活的时间单位
workQueue 存放提交但未执行任务的队列
threadFactory 创建线程的工厂类
handler 等待队列满后的拒绝策略

 

  自定义线程池:

//自定义线程池创建
public class ThreadPoolDemo2 {

    public static void main(String[] args) {
        ExecutorService threadPool = new ThreadPoolExecutor(
                2,
                5,
                2L,
                TimeUnit.SECONDS,
                new ArrayBlockingQueue<>(3),
                Executors.defaultThreadFactory(),
                new ThreadPoolExecutor.AbortPolicy()
        );

        //10个顾客请求
        try {
            for (int i = 1; i <=10; i++) {
                //执行
                threadPool.execute(()->{
                    System.out.println(Thread.currentThread().getName()+" 办理业务");
                });
            }
        }catch (Exception e) {
            e.printStackTrace();
        }finally {
            //关闭
            threadPool.shutdown();
        }
    }
}

 

 

 

posted on 2022-02-06 15:00  格物致知_Tony  阅读(117)  评论(0编辑  收藏  举报