Fork/Join框架

 

一、什么是 Fork/Join框架


更多内容,前往 IT-BLOG

Fork/Join 框架是 Java7提供的一个用于并发执行任务的框架,是一个把大任务分割成若干个小任务,最终汇总每个小任务结果得到大任务结果的框架。我们通过 Fork和 Join这两个单词来理解一下 Fork/Join框架。Fork就是把一个大任务切分为若干子任务并行的执行,Join就是合并这些子任务的执行结果,最后得到一个大任务的结果。比如计算1~10000,可以分割成10个子任务,每个子任务分别对1000个数进行求和,最终汇总这10个子任务的结果。Fork/Join运行流程图如下:

二、工作窃取算法


工作窃取(work-stealing)算法是指某个线程从其他队列里窃取任务来执行。当我们讲一个任务分割成若干互不依赖的子任务,为了减少线程间竞争,把这些子任务分别放在不同的队列里,并为每个队列创建一个单独的线程来执行队列里的任务,线程和队列一一对应。比如A线程负责处理A队列里的任务,但是,有的线程会先把自己队列里的任务干完,而其他线程对应的队列里还有任务未处理。干完活的线程与其等着,不如去帮其他线程干活,于是它就去其他线程的队列中窃取一个任务来执行。而在这时它们会访问同一个队列,所以为了减少窃取任务和被窃取任务线程之间的竞争,通常会使用双端队列,被窃取任务线程永远从双端队列的头部拿任务执行,而窃取任务的线程永远从双端队列的尾部拿取任务执行。
 
工作窃取算法的优点:充分利用线程进行并行计算,减少了线程间的竞争。
工作窃取算法的缺点:在某些情况下还是存在竞争,比如双端队里里面只有一个任务时。并且该算法会消耗了更多的系统资源,比如创建多个线程和多个双端队列。

三、Fork/Join 框架的设计


Fork/Join框架的设计?
【步骤1】:分割任务首先我们需要一个fork类来把大任务分割成子任务,有可能子任务还是很大,所以还需要不停地分割,直到分割出的子任务足够小。
【步骤2】:执行任务并合并结果。分割的子任务分别放在双方队列里。然后几个开启线程分别从双端队列里获取任务执行。子任务执行完的结果都统一放在一个队列里,开启一个线程从队列里拿数据,然后合并数据。
Fork使用两个类来完成以上两件事情。
  1)、ForkJoinTask:我们要使用Fork框架,必须首先创建一个ForkJoin任务。它提供在任务中执行fork()和join()操作的机制。通常情况下,我么不需要直接继承ForkJoinTask类,只需要继承它的子类,Fork/Join框架提供了以下两个子类。
  ▶ RecursiveAction:用于没有返回结果的任务。
  ▶ RecursiveTask:用于有返回结果的任务。
  2)、ForkJoinPool:ForkJoinTask需要通过ForkJoinPool来执行。
任务分割出的子任务会添加到当前工作线程所维护的双端队列中,进入队列的头部。当一个工作线程的队列里暂时没有任务时,它会随机从其他工作线程的队列的尾部获取一个任务。

四、使用Fork/Join框架


让我们通过一个简单的需求来使用Frok/Join框架,需求是1+2+3+4的结果。使用Fork/Join框架首先要考虑到的是如何分割任务,如果希望每个子任务最多之多执行两个数相加,那么我们设置分割的阈值是2,由于是4个数字相加,所以Fork/Join框架会把这个任务fork成两个子任务,子任务一负责计算1+2,子任务二负责3+4,然后再join两个子任务的结果。因为是有结果的任务,所以必须继承RecursiveTask,实现代码如下:

 1 package com.yintong.concurrent;
 2 
 3 import java.util.concurrent.ForkJoinPool;
 4 import java.util.concurrent.Future;
 5 import java.util.concurrent.RecursiveTask;
 6 
 7 import javax.print.attribute.standard.MediaName;
 8 
 9 public class CountTask extends RecursiveTask<Integer>{
10     private static final int THRESHOLD = 2;  //阈值
11     private int start;
12     private int end;
13     
14     public CountTask(int start, int end) {
15         this.start = start;
16         this.end = end;
17     }
18 
19     @Override
20     protected Integer compute() {
21         int sum = 0;
22         //如果任务足够小就计算任务
23         boolean canCompute = (end - start) <= THRESHOLD;
24         if(canCompute) {
25             for(int i=start ;i<= end; i++) {
26                 sum+=i;
27             }
28         }else {
29             //如果任务大于阈值,就分裂成两个子任务计算
30             int middle = (start+end)/2;
31             CountTask leftTask = new CountTask(start, middle);
32             CountTask rightTask = new CountTask(middle+1, end);
33             //执行子任务
34             leftTask.fork();
35             rightTask.fork();
36             //等待子任务执行完,并得到其结果
37             int leftResult = leftTask.join();
38             int rightResult = rightTask.join();
39             //合并子任务
40             sum = leftResult + rightResult;
41         }
42         return sum;
43     }
44     
45     public static void main(String[] args) {
46         ForkJoinPool forkJoinPool = new ForkJoinPool();
47         //生成一个计算任务,负责计算1+2+3+4
48         CountTask task = new CountTask(1, 4);
49         //执行一个任务
50         Future<Integer> result = forkJoinPool.submit(task);
51         try {
52             System.out.println(result.get());
53         } catch (Exception e) {
54         }
55     }
56 }

ForkJoinTask与一般任务的主要区别在于它需要实现compute方法,在这个方法里,首先需要判断任务是否足够小,如果足够小就直接执行任务。如果不足够小,就必须分割成两个子任务。每个子任务在调用fork时,又会进入compute方法,看看当前子任务是否需要继续分割成子任务,如果不需要继续分割,则执行当前子任务并返回结果。使用join方法会等待子任务执行完成并得到其结果。

五、Fork/Join框架的实现原理


ForkJoinPool由ForkJoinTask数组和ForkJoinWorkerThread数组组成,ForkJoinTask数组负责将存放程序提交给ForkJoinPool的任务,而ForkJoinWorkerThread数组负责执行这些任务。
1)、ForkJoinTask的fork方法时,程序会调用ForkJoinWorkerThread的push方法异步地执行这个任务,然后立即返回结果。

1 public final ForkJoinTask<V> fork() {
2     Thread t;
3     if ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread)
4         ((ForkJoinWorkerThread)t).workQueue.push(this);
5     else
6         ForkJoinPool.common.externalPush(this);
7     return this;
8 }

push方法把当前任务存放到ForkJoinTask数组队列里。然后再调用ForkJoinPool的signalWork()方法唤醒或创建一个工作线程来执行任务。

 1 final void push(ForkJoinTask<?> task) {
 2     ForkJoinTask<?>[] a; ForkJoinPool p;
 3     int b = base, s = top, n;
 4     if ((a = array) != null) {    // ignore if queue removed
 5         int m = a.length - 1;     // fenced write for task visibility
 6         U.putOrderedObject(a, ((m & s) << ASHIFT) + ABASE, task);
 7         U.putOrderedInt(this, QTOP, s + 1);
 8         if ((n = s - b) <= 1) {
 9             if ((p = pool) != null)
10                 p.signalWork(p.workQueues, this);
11         }
12         else if (n >= m)
13             growArray();
14     }
15 }

 2)、ForkJoinTask的join方法实现原理。
 Join方法的主要作用是阻塞当前线程并等待获取结果。下来看看ForkJoinTask的join方法的实现:

1 public final V join() {
2     int s;
3     if ((s = doJoin() & DONE_MASK) != NORMAL)
4         reportException(s);
5     return getRawResult();
6 }

首先,它调用了doJoin()方法,通过doJoin()方法得到当前任务的状态来判断返回什么结果,任务状态有4种:已完成(NORMAL)、被取消(CANCELLED)、信号(SIGNAL)和出现异常(EXCEPTIONAL)。
   ◀ 如果任务状态是已完成,则直接返回任务结果。
   ◀ 如果任务状态是被取消,则直接抛出CancellationException。
   ◀ 如果任务状态是抛出异常,则直接抛出对应的异常。
分析下doJoin()方法的实现代码:

1 private int doJoin() {
2     int s; Thread t; ForkJoinWorkerThread wt; ForkJoinPool.WorkQueue w;
3     return (s = status) < 0 ? s :
4         ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) ?
5         (w = (wt = (ForkJoinWorkerThread)t).workQueue).
6         tryUnpush(this) && (s = doExec()) < 0 ? s :
7         wt.pool.awaitJoin(w, this, 0L) :
8         externalAwaitDone();
9 }

在doJoin()方法里,首先通过查看任务的状态,看任务是否已经执行完成,如果执行完成,则直接返回任务状态;如果没有执行完成,则从任务数组里取出任务并执行。如果任务顺利执行完成,则设置任务状态为NORMAL。如果出现异常,则记录异常,并将任务状态设置为EXCEPTIONAL。

posted @ 2020-11-18 19:37  Java程序员进阶  阅读(12)  评论(0编辑  收藏  举报