Fork/Join框架
一、什么是 Fork/Join框架
更多内容,前往 IT-BLOG
Fork/Join 框架是 Java7提供的一个用于并发执行任务的框架,是一个把大任务分割成若干个小任务,最终汇总每个小任务结果得到大任务结果的框架。我们通过 Fork和 Join这两个单词来理解一下 Fork/Join框架。Fork就是把一个大任务切分为若干子任务并行的执行,Join就是合并这些子任务的执行结果,最后得到一个大任务的结果。比如计算1~10000,可以分割成10个子任务,每个子任务分别对1000个数进行求和,最终汇总这10个子任务的结果。Fork/Join运行流程图如下:
二、工作窃取算法
工作窃取(work-stealing)算法是指某个线程从其他队列里窃取任务来执行。当我们讲一个任务分割成若干互不依赖的子任务,为了减少线程间竞争,把这些子任务分别放在不同的队列里,并为每个队列创建一个单独的线程来执行队列里的任务,线程和队列一一对应。比如A线程负责处理A队列里的任务,但是,有的线程会先把自己队列里的任务干完,而其他线程对应的队列里还有任务未处理。干完活的线程与其等着,不如去帮其他线程干活,于是它就去其他线程的队列中窃取一个任务来执行。而在这时它们会访问同一个队列,所以为了减少窃取任务和被窃取任务线程之间的竞争,通常会使用双端队列,被窃取任务线程永远从双端队列的头部拿任务执行,而窃取任务的线程永远从双端队列的尾部拿取任务执行。
三、Fork/Join 框架的设计
Fork/Join框架的设计?
【步骤1】:分割任务。首先我们需要一个fork类来把大任务分割成子任务,有可能子任务还是很大,所以还需要不停地分割,直到分割出的子任务足够小。
【步骤2】:执行任务并合并结果。分割的子任务分别放在双方队列里。然后几个开启线程分别从双端队列里获取任务执行。子任务执行完的结果都统一放在一个队列里,开启一个线程从队列里拿数据,然后合并数据。
Fork使用两个类来完成以上两件事情。
1)、ForkJoinTask:我们要使用Fork框架,必须首先创建一个ForkJoin任务。它提供在任务中执行fork()和join()操作的机制。通常情况下,我么不需要直接继承ForkJoinTask类,只需要继承它的子类,Fork/Join框架提供了以下两个子类。
▶ RecursiveAction:用于没有返回结果的任务。
▶ RecursiveTask:用于有返回结果的任务。
2)、ForkJoinPool:ForkJoinTask需要通过ForkJoinPool来执行。
任务分割出的子任务会添加到当前工作线程所维护的双端队列中,进入队列的头部。当一个工作线程的队列里暂时没有任务时,它会随机从其他工作线程的队列的尾部获取一个任务。
四、使用Fork/Join框架
让我们通过一个简单的需求来使用Frok/Join框架,需求是1+2+3+4的结果。使用Fork/Join框架首先要考虑到的是如何分割任务,如果希望每个子任务最多之多执行两个数相加,那么我们设置分割的阈值是2,由于是4个数字相加,所以Fork/Join框架会把这个任务fork成两个子任务,子任务一负责计算1+2,子任务二负责3+4,然后再join两个子任务的结果。因为是有结果的任务,所以必须继承RecursiveTask,实现代码如下:
1 package com.yintong.concurrent; 2 3 import java.util.concurrent.ForkJoinPool; 4 import java.util.concurrent.Future; 5 import java.util.concurrent.RecursiveTask; 6 7 import javax.print.attribute.standard.MediaName; 8 9 public class CountTask extends RecursiveTask<Integer>{ 10 private static final int THRESHOLD = 2; //阈值 11 private int start; 12 private int end; 13 14 public CountTask(int start, int end) { 15 this.start = start; 16 this.end = end; 17 } 18 19 @Override 20 protected Integer compute() { 21 int sum = 0; 22 //如果任务足够小就计算任务 23 boolean canCompute = (end - start) <= THRESHOLD; 24 if(canCompute) { 25 for(int i=start ;i<= end; i++) { 26 sum+=i; 27 } 28 }else { 29 //如果任务大于阈值,就分裂成两个子任务计算 30 int middle = (start+end)/2; 31 CountTask leftTask = new CountTask(start, middle); 32 CountTask rightTask = new CountTask(middle+1, end); 33 //执行子任务 34 leftTask.fork(); 35 rightTask.fork(); 36 //等待子任务执行完,并得到其结果 37 int leftResult = leftTask.join(); 38 int rightResult = rightTask.join(); 39 //合并子任务 40 sum = leftResult + rightResult; 41 } 42 return sum; 43 } 44 45 public static void main(String[] args) { 46 ForkJoinPool forkJoinPool = new ForkJoinPool(); 47 //生成一个计算任务,负责计算1+2+3+4 48 CountTask task = new CountTask(1, 4); 49 //执行一个任务 50 Future<Integer> result = forkJoinPool.submit(task); 51 try { 52 System.out.println(result.get()); 53 } catch (Exception e) { 54 } 55 } 56 }
ForkJoinTask与一般任务的主要区别在于它需要实现compute方法,在这个方法里,首先需要判断任务是否足够小,如果足够小就直接执行任务。如果不足够小,就必须分割成两个子任务。每个子任务在调用fork时,又会进入compute方法,看看当前子任务是否需要继续分割成子任务,如果不需要继续分割,则执行当前子任务并返回结果。使用join方法会等待子任务执行完成并得到其结果。
五、Fork/Join框架的实现原理
ForkJoinPool由ForkJoinTask数组和ForkJoinWorkerThread数组组成,ForkJoinTask数组负责将存放程序提交给ForkJoinPool的任务,而ForkJoinWorkerThread数组负责执行这些任务。
1)、ForkJoinTask的fork方法时,程序会调用ForkJoinWorkerThread的push方法异步地执行这个任务,然后立即返回结果。
1 public final ForkJoinTask<V> fork() { 2 Thread t; 3 if ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) 4 ((ForkJoinWorkerThread)t).workQueue.push(this); 5 else 6 ForkJoinPool.common.externalPush(this); 7 return this; 8 }
push方法把当前任务存放到ForkJoinTask数组队列里。然后再调用ForkJoinPool的signalWork()方法唤醒或创建一个工作线程来执行任务。
1 final void push(ForkJoinTask<?> task) { 2 ForkJoinTask<?>[] a; ForkJoinPool p; 3 int b = base, s = top, n; 4 if ((a = array) != null) { // ignore if queue removed 5 int m = a.length - 1; // fenced write for task visibility 6 U.putOrderedObject(a, ((m & s) << ASHIFT) + ABASE, task); 7 U.putOrderedInt(this, QTOP, s + 1); 8 if ((n = s - b) <= 1) { 9 if ((p = pool) != null) 10 p.signalWork(p.workQueues, this); 11 } 12 else if (n >= m) 13 growArray(); 14 } 15 }
2)、ForkJoinTask的join方法实现原理。
Join方法的主要作用是阻塞当前线程并等待获取结果。下来看看ForkJoinTask的join方法的实现:
1 public final V join() { 2 int s; 3 if ((s = doJoin() & DONE_MASK) != NORMAL) 4 reportException(s); 5 return getRawResult(); 6 }
首先,它调用了doJoin()方法,通过doJoin()方法得到当前任务的状态来判断返回什么结果,任务状态有4种:已完成(NORMAL)、被取消(CANCELLED)、信号(SIGNAL)和出现异常(EXCEPTIONAL)。
◀ 如果任务状态是已完成,则直接返回任务结果。
◀ 如果任务状态是被取消,则直接抛出CancellationException。
◀ 如果任务状态是抛出异常,则直接抛出对应的异常。
分析下doJoin()方法的实现代码:
1 private int doJoin() { 2 int s; Thread t; ForkJoinWorkerThread wt; ForkJoinPool.WorkQueue w; 3 return (s = status) < 0 ? s : 4 ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) ? 5 (w = (wt = (ForkJoinWorkerThread)t).workQueue). 6 tryUnpush(this) && (s = doExec()) < 0 ? s : 7 wt.pool.awaitJoin(w, this, 0L) : 8 externalAwaitDone(); 9 }
在doJoin()方法里,首先通过查看任务的状态,看任务是否已经执行完成,如果执行完成,则直接返回任务状态;如果没有执行完成,则从任务数组里取出任务并执行。如果任务顺利执行完成,则设置任务状态为NORMAL。如果出现异常,则记录异常,并将任务状态设置为EXCEPTIONAL。