Fork/Join
Fork/Join框架简介
Fork/Join框架简介
Fork/Join它可以将一个大的任务拆分成多个子任务并行处理,最后将子任务结果合成并最后的计算结果,并进行输出。FOrk/Join框架要完成两件事情。Fork:把一个复杂的任务进行分析,大任务拆分成小任务;Join:把拆分的结果进行合并。
1.任务分割,Fork/Join框架需要把大的任务分割成足够小的任务,如果子任务比较大的话还要对子任务进行继续分割。
2.执行任务并合并结果,分割的子任务分别放到双端队列里,然后几个启动线程,分别从双端队列里获取任务执行。子任务执行完后的结果都放在另一个队列里,启动一个线程从队列里取数据,然后合并这些数据。
双端队列
双端队列(Double-ended Queue),简称Deque,是一种具有队列和栈特性的数据结构。双端队列允许从两端插入和删除元素,因此可以在队列的头部和尾部进行插入和和删除操作。
双端队列可以在队列的两端执行以下操作:
- 在队列头部插入/删除元素;
- 在队列尾部插入/删除元素;
双端队列的特点是可以在队列的两端进行插入和删除操作,这使得它非常灵活和方便。它可以用于模拟栈,队列和其他数据结构,同时也可以用于解决一些特定的问题,如滑动窗口问题等。在Java中,Deque接口是双端队列的标准实现,它有两个主要的实现类:ArrayDeque,LinkedList。
Fork/Join框架实现任务分割和合并
- 1.ForkJoinaTask:要使用Fork/Join框架,首先要创建一个ForkJoin任务,该类提供了在任务中执行fork/join的机制。通常情况下,我们不使用ForkJoin的子类ForkJoinTask,只需要继承ForkJoinTask子类,然后使用,Fork/join框架提供了两个子类,RecursiveAction 用以没有返回结果的任务,RecursiveTask 用以有返回结果的任务。
- 2.ForkJoinPool:ForkJoinTask需要通过ForkJoinPool来执行。
- 3.RecursiveTask:继承此类后,可以自定义调用的任务
ForkJoinPool架构图
RecursiveTask架构图
Fork/Join实现原理
ForkJoinPool由ForkJoinTask数组和ForkJoinWorkerThread数组组成,ForkJoinTask数组负责存放任务,以及将这些任务提交给ForkJoinPool,而ForkJoinWorkerThread负责执行这些任务。
Fork方法的实现原理
当我们调用ForkJoinTask的fork方法时,程序会把任务放在ForkJoinWorkerThread的pushTask的workQueue中,异步地执行这个任务,然后立即返回结果。
public final ForkJoinTask<V> fork() {
Thread t;
if ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread)
((ForkJoinWorkerThread)t).workQueue.push(this);
else
ForkJoinPool.common.externalPush(this);
return this;
}
push方法把当前任务存放在ForkJoinTask数组队列里。然后再调用ForkJoinPool的signalWork()方法唤醒或创建一个工作线程执行任务。
final void push(ForkJoinTask<?> task) {
ForkJoinTask<?>[] a; ForkJoinPool p;
int b = base, s = top, n;
if ((a = array) != null) { // ignore if queue removed
int m = a.length - 1; // fenced write for task visibility
U.putOrderedObject(a, ((m & s) << ASHIFT) + ABASE, task);
U.putOrderedInt(this, QTOP, s + 1);
if ((n = s - b) <= 1) {
if ((p = pool) != null)
p.signalWork(p.workQueues, this);//执行任务
}
else if (n >= m)
growArray();
}
}
Join方法
Join方法的主要作用是阻塞当前线程并等待获取结果。
/**
* Returns the result of the computation when it {@link #isDone is
* done}. This method differs from {@link #get()} in that
* abnormal completion results in {@code RuntimeException} or
* {@code Error}, not {@code ExecutionException}, and that
* interrupts of the calling thread do <em>not</em> cause the
* method to abruptly return by throwing {@code
* InterruptedException}.
*
* @return the computed result
*/
public final V join() {
int s;
if ((s = doJoin() & DONE_MASK) != NORMAL)//执行doJoin() 根据返回状态判断返回结果
reportException(s);
return getRawResult();
}
任务状态有4种 已完成(NORMAL),被取消(CANCELLED),信号(SIGNAL)和出现异常(EXCEPTIONAL)
doJoin方法
/**
Implementation for join, get, quietlyJoin. Directly handles only cases of already-completed, external wait, * and unfork+exec. Others are relayed to ForkJoinPool.awaitJoin.
* Returns: status upon completion
*/
/*
流程
1.当任务状态,已经执行完成,就直接返回任务状态
2.如果没有执行完,则从任务数组里取出任务并执行。
3.如果任务顺利执行完成,则设置任务状态未NORMAL,出现异常,则记录异常,并将任务状态设置为EXCEPTIONAL
*/
private int doJoin() {
int s; Thread t; ForkJoinWorkerThread wt; ForkJoinPool.WorkQueue w;
return (s = status) < 0 ? s :
((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) ?
(w = (wt = (ForkJoinWorkerThread)t).workQueue).
tryUnpush(this) && (s = doExec()) < 0 ? s :
wt.pool.awaitJoin(w, this, 0L) :
externalAwaitDone();
}
/**
* Primary execution method for stolen tasks. Unless done, calls exec and records status if completed, but * doesn't wait for completion otherwise.
* Returns: status on exit from this method
*/
final int doExec() {
int s; boolean completed;
if ((s = status) >= 0) {
try {
completed = exec();
} catch (Throwable rex) {
return setExceptionalCompletion(rex);
}
if (completed)
s = setCompletion(NORMAL);
}
return s;
}
Fork/Join框架的异常处理
ForkJoinTask在执行的时候可能会抛出异常,但是我们没办法在主线程里直接捕获异常,所以ForkJoinTask提供了isCompletedAbnormally()方法来检查任务是否已经抛出异常或已经被取消了,并且可以通过ForkJoinTask的getException获取异常。
public final Throwable getException() {//任务没有完成,或者没有抛出异常返回null
int s = status & DONE_MASK;
return ((s >= NORMAL) ? null :
(s == CANCELLED) ? new CancellationException() ://任务取消,返回CancellationException
getThrowableException());
}
案例计算1+..+100
class MyTask extends RecursiveTask<Integer> {
public static final Integer VALUE = 10;
private int begin;
private int end;
private int result;
public MyTask(int begin, int end) {
this.begin = begin;
this.end = end;
}
@Override
protected Integer compute() {
if (begin - end < VALUE) {//差值小于10
for (int i = begin; i <= end; i++) {
result += i;
}
} else {
int middle = ( begin + end) / 2;
MyTask myTask1 = new MyTask(begin, middle);
MyTask myTask2 = new MyTask(middle, end);
myTask1.fork();
myTask2.fork();
result = myTask1.join() + myTask2.join();
}
return result;
}
}
public class ForkJoinDemo {
public static void main(String[] args) throws ExecutionException, InterruptedException {
ForkJoinPool forkJoinPool = new ForkJoinPool();
MyTask myTask = new MyTask(1, 100);
ForkJoinTask<Integer> joinTask = forkJoinPool.submit(myTask);
System.out.println(joinTask.get());
forkJoinPool.shutdown();
}
}
只是为了记录自己的学习历程,且本人水平有限,不对之处,请指正。