Java高并发,ThreadPoolExecutor线程池技术
Java当中的线程池是通过Executor这个框架接口来实现的,该框架当中用到了Executor,Executors工具类,ExecutorService,ThreadPoolExecutor
Executors创建线程的三种方法:
ExecutorService threadPool = Executors.newFixedThreadPool(5); //固定容量 ExecutorService threadPool = Executors.newSingleThreadExecutor(); //单例的、单个线程的线程池 ExecutorService threadPool = Executors.newCachedThreadPool(); //缓存的 即超出就自动创建线程的
接下来讲解一下这三个的区别:
固定容量的线程池
首先我们看的是第一个固定容量的线程池Executors.newFixedThreadPool(5);
:
首先看代码:
/** * 主要特点:线程复用;控制最大并发数;管理线程。 * * @author Cocowwy * @create 2020-05-05-20:20 * Executor/ExecutorServic(Interface) * Executors 线程池的工具类 */ public class MyThreadPoolDemo { public static void main(String[] args) { //一池五个受理线程 ExecutorService threadPool = Executors.newFixedThreadPool(5); //看源码是LinkedBlockingQueue<Runnable>() try { //模拟10个用户办理业务,但是只有5个受理窗口 for (int i = 0; i < 10; i++) { threadPool.execute(() -> { System.out.println(Thread.currentThread().getName() + "\t" + "办理业务"); }); Thread.sleep(400); } } catch (Exception e) { e.printStackTrace(); } finally { threadPool.shutdown(); //关闭线程池 } } }
结果如下:
接着我们加上一句线程睡眠一小会的代码:
public class MyThreadPoolDemo { public static void main(String[] args) { //一池五个受理线程 ExecutorService threadPool = Executors.newFixedThreadPool(5); //看源码是LinkedBlockingQueue<Runnable>() try { //模拟10个用户办理业务,但是只有5个受理窗口 for (int i = 0; i < 10; i++) { threadPool.execute(() -> { System.out.println(Thread.currentThread().getName() + "\t" + "办理业务"); }); Thread.sleep(400); } } catch (Exception e) { e.printStackTrace(); } finally { threadPool.shutdown(); //关闭线程池 } } }
在这里我们可以看到有序办理了每个业务。可以看出这个是固定了大小的线程池,每次都是从这个线程池中取的线程。
单例的线程池
这是第二个,单例的线程池:
ExecutorService threadPool = Executors.newSingleThreadExecutor(); //一池1个受理线程
public class MyThreadPoolDemo { public static void main(String[] args) { // ExecutorService threadPool = Executors.newFixedThreadPool(5); //一池五个受理线程,看源码是LinkedBlockingQueue<Runnable>() ExecutorService threadPool = Executors.newSingleThreadExecutor(); //一池1个受理线程 try { for (int i = 0; i < 10; i++) { threadPool.execute(() -> { System.out.println(Thread.currentThread().getName() + "\t" + "办理业务"); }); } } catch (Exception e) { e.printStackTrace(); } finally { threadPool.shutdown(); //关闭线程池 } } }
我们可以看到一直是一个线程在受理业务。
可扩展的线程池
接下来是第三个线程池:ExecutorService threadPool = Executors.newCachedThreadPool(); //一池N个受理线程 可扩展的
ExecutorService threadPool = Executors.newCachedThreadPool(); //一池N个受理线程 可扩展的
接下来上代码:
public class MyThreadPoolDemo { public static void main(String[] args) { // ExecutorService threadPool = Executors.newFixedThreadPool(5); //一池五个受理线程,看源码是LinkedBlockingQueue<Runnable>() // ExecutorService threadPool = Executors.newSingleThreadExecutor(); //一池1个受理线程 ExecutorService threadPool = Executors.newCachedThreadPool(); //一池N个受理线程 try { for (int i = 0; i < 10; i++) { threadPool.execute(() -> { try { Thread.sleep(400); } catch (InterruptedException e) { e.printStackTrace(); } System.out.println(Thread.currentThread().getName() + "\t" + "办理业务"); }); } } catch (Exception e) { e.printStackTrace(); } finally { threadPool.shutdown(); //关闭线程池 } } }
先看看效果:
在上面的代码中,我们可以发现的是,对从线程池取的线程睡了0.4s,然而却可以发现创建出了3,6,9,10,1,8,7,4,5.....这么多的线程
因为我们睡眠的时间太短了,表明需要受理的业务频率太多,所以才开辟了这么多的线程去处理。
tips:我们可以设置睡眠时间,来控制线程池的开辟数量。当我们将睡眠时间设置的尽可能的大,那么开辟的线程数自然而然的就少了下来,证明需要受理的业务不那么频繁
所以我们可以发现当请求过多,过于频繁的时候使用可扩展的线程池newCachedThreadPool将会创建更多的线程。
线程池的源码
首先点进newFixedThreadPool()的源码可以看到:
接下来点进去newSingleThreadExecutor()的源码可以看到:
接下来点进去newCachedThreadPool()的源码可以看到:
综上所述,返回的实际上只是一个ThreadPoolExecutor
(可以看看继承图),利用构造器传入的不同的参数而已,而且我们也能发现底层是阻塞队列。
同时说明我们也可以通过ThreadPoolExecutor`来创建线程池,Executors只是一个创建线程池的工具类,实际上返回的还是ThreadPoolExecutor。
ThreadPoolExecutor的七大参数
接着我们继续点进ThreadPoolExecutor
:
接着再点进这this,我们可以看到它有七个参数,:corePoolSize,maximumPoolSize,keepAliveTime,unit,workQueue,threadFactory,handler
下图是这七大参数的解释:
线程池的底层工作原理图
接下来结合下图理解理解上述的7大参数:
首先看看线程池的底层工作原理图:
看上图以及参数解析对照我们可以知道maximumPool包含corePool,maximumPool表示最多能放的线程数,而corePool表示的就是线程的常驻数,可以理解为银行的有最多有5个受理窗口,但是常用的却只有2个。
而候客区就相当于我们的阻塞队列(BlockingQueue),那当我们的阻塞队列满了之后,handle拒绝策略出来了,相当于银行门口立了块牌子,上面写着不办理后面的业务了!
然后当客户都办理的差不多了,此时多出来(在corePool的基础上扩容的窗口)的窗口在经过keepAliveTime的时间后就关闭了,重新恢复到corePool个受理窗口。
总结一下线程池的工作流程:
首先线程池接收到任务,先判断核心线程数是否满了,如果corepool没有满接客则核心(常驻)线程处理。
常驻线程满了就放到阻塞队列,如果阻塞队列没满,这些任务放在阻塞队列。
如果阻塞队列也满了,就扩容线程数到最大线程数。
如果最大线程数也满了,就是我们的拒绝策略。
这就是线程池四大步骤。 接客、放入队列,扩容线程,拒绝策略!
也可以看下图流程解释:太妙了!!
实际开发当中如何合适的使用线程池
为什么不建议使用Executors工具类去创建线程池?
举个例子,回到之前讲的 newSingleThreadExecutor(); ;
以及Executors.newCachedThreadPool( );
创建的线程池,看看源码,
正如源码中看到的那样:
如果用Executors去创建,默认的Integer.MAX_VALUE的大小是21亿............极大的消耗内存,线程池永远不会慢,内存会被你压爆
又如下面源码:
//这是Single的 public static ExecutorService newSingleThreadExecutor() { return new FinalizableDelegatedExecutorService (new ThreadPoolExecutor(1, 1, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue<Runnable>())); } } //点进去LinkedBlockQueue public LinkedBlockingQueue() { this(Integer.MAX_VALUE); } //这是Cahed的 public static ExecutorService newCachedThreadPool() { return new ThreadPoolExecutor(0, Integer.MAX_VALUE, 60L, TimeUnit.SECONDS, new SynchronousQueue<Runnable>()); }
对于newSingleThreadExecutor()而言,LinkedBlockQueue的长度是Integer.MAX_VALUE,
对于newCachedThreadPool()而言,maximumPool的值竟然为Integer.MAX_VALUE!!
两者均会导致OOM异常!
自定义线程池
public class MyThreadPoolDemo { public static void main(String[] args) { //自定义线程池 ThreadPoolExecutor threadPool = new ThreadPoolExecutor(2, 5, 2L, TimeUnit.SECONDS, new LinkedBlockingQueue<>(3), //不写的话默认也是Integer.MAX_VALUE Executors.defaultThreadFactory(), new ThreadPoolExecutor.AbortPolicy());//默认的拒绝策略 try { //模拟10个用户办理业务,但是只有5个受理窗口 for (int i = 0; i < 9; i++) { threadPool.execute(() -> { System.out.println(Thread.currentThread().getName() + "\t" + "办理业务"); }); } } catch (Exception e) { e.printStackTrace(); } finally { threadPool.shutdown(); //关闭线程池 } }
threadPool 是我们自定义的线程池,连接过上面的参数的应该都知道。
该线程池最大支持的并发量就应该是maximumPool+Queue的大小,即5+3=8,而超过了大小之后就会报错:java.util.concurrent.RejectedExecutionException
拒绝执行异常
线程池的四大拒绝策略
接下来我们看看线程池的四大拒绝策略,上述是JDK默认的拒绝策略:
接下来看看另外三种策略的运行结果
将上述代码的拒绝策略改成第二种new ThreadPoolExecutor.CallerRunsPolicy(),回退到原始调用者,这里之main线程
第三种new ThreadPoolExecutor.DiscardOldestPolicy()
:不报错。
第四种new ThreadPoolExecutor.DiscardPolicy()
: 同样不报错。
以上策略均继承自RejectedExecutionHandler
接口。
怎么设置maximumPoolSize合理
最后提一句怎么设置maximumPoolSize合理,
了解:IO密集型,CPU密集型:(调优)
1、CPU 密集型,一般设置为CPU核数加1,可以保持CPu的效率最高!
System.out.println(Runtime.getRuntime().availableProcessors()); //获取CPU的核数,8核
2、IO 密集型, 判断你程序中十分耗IO的线程