在PHP中使用协程实现多任务调度

PHP5.5一个比较好的新功能是加入了对迭代生成器和协程的支持.对于生成器,PHP的文档和各种其他的博客文章已经有了非常详细的讲解.协程相对受到的关注就少了,因为协程虽然有很强大的功能但相对比较复杂, 也比较难被理解,解释起来也比较困难.

这篇文章将尝试通过介绍如何使用协程来实施任务调度, 来解释在PHP中的协程.

我将在前三节做一个简单的背景介绍.如果你已经有了比较好的基础,可以直接跳到“协同多任务处理”一节.

 

迭代生成器

(迭代)生成器也是一个函数,不同的是这个函数的返回值是依次返回,而不是只返回一个单独的值.或者,换句话说,生成器使你能更方便的实现了迭代器接口.下面通过实现一个xrange函数来简单说明：

  1. <?php
  2. function xrange($start, $end, $step = 1) {
  3.     for ($i = $start; $i <= $end; $i += $step) {
  4.         yield $i;
  5.     }
  6. }
  7.  
  8. foreach (xrange(1, 1000000) as $num) {
  9.     echo $num, "\n";
  10. }

上面这个xrange()函数提供了和PHP的内建函数range()一样的功能.但是不同的是range()函数返回的是一个包含值从1到100万0的数组(注：请查看手册). 而xrange()函数返回的是依次输出这些值的一个迭代器, 而不会真正以数组形式返回.

这种方法的优点是显而易见的.它可以让你在处理大数据集合的时候不用一次性的加载到内存中.甚至你可以处理无限大的数据流.

当然,也可以不同通过生成器来实现这个功能,而是可以通过继承Iterator接口实现.但通过使用生成器实现起来会更方便,不用再去实现iterator接口中的5个方法了.

生成器为可中断的函数

要从生成器认识协程, 理解它内部是如何工作是非常重要的: 生成器是一种可中断的函数, 在它里面的yield构成了中断点.

还是看上面的例子, 调用xrange(1,1000000)的时候, xrange()函数里代码其实并没有真正地运行. 它只是返回了一个迭代器：

  1. <?php
  2. $range = xrange(1, 1000000);
  3. var_dump($range); // object(Generator)#1
  4. var_dump($range instanceof Iterator); // bool(true)
  5. ?>

这也解释了为什么xrange叫做迭代生成器, 因为它返回一个迭代器, 而这个迭代器实现了Iterator接口.

调用迭代器的方法一次, 其中的代码运行一次.例如, 如果你调用$range->rewind(), 那么xrange()里的代码就会运行到控制流第一次出现yield的地方. 而函数内传递给yield语句的返回值可以通过$range->current()获取.

为了继续执行生成器中yield后的代码, 你就需要调用$range->next()方法. 这将再次启动生成器, 直到下一次yield语句出现. 因此,连续调用next()和current()方法, 你就能从生成器里获得所有的值, 直到再没有yield语句出现.

对xrange()来说, 这种情形出现在$i超过$end时. 在这中情况下, 控制流将到达函数的终点,因此将不执行任何代码.一旦这种情况发生,vaild()方法将返回假, 这时迭代结束.

协程

协程的支持是在迭代生成器的基础上, 增加了可以回送数据给生成器的功能(调用者发送数据给被调用的生成器函数). 这就把生成器到调用者的单向通信转变为两者之间的双向通信.

传递数据的功能是通过迭代器的send()方法实现的. 下面的logger()协程是这种通信如何运行的例子：

  1. <?php
  2. function logger($fileName) {
  3.     $fileHandle = fopen($fileName, 'a');
  4.     while (true) {
  5.         fwrite($fileHandle, yield . "\n");
  6.     }
  7. }
  8.  
  9. $logger = logger(__DIR__ . '/log');
  10. $logger->send('Foo');
  11. $logger->send('Bar')
  12. ?>

正如你能看到,这儿yield没有作为一个语句来使用, 而是用作一个表达式, 即它能被演化成一个值. 这个值就是调用者传递给send()方法的值. 在这个例子里, yield表达式将首先被”Foo”替代写入Log, 然后被”Bar”替代写入Log.

上面的例子里演示了yield作为接受者, 接下来我们看如何同时进行接收和发送的例子：

  1. <?php
  2. function gen() {
  3.     $ret = (yield 'yield1');
  4.     var_dump($ret);
  5.     $ret = (yield 'yield2');
  6.     var_dump($ret);
  7. }
  8.  
  9. $gen = gen();
  10. var_dump($gen->current()); // string(6) "yield1"
  11. var_dump($gen->send('ret1')); // string(4) "ret1" (the first var_dump in gen)
  12.                               // string(6) "yield2" (the var_dump of the ->send() return value)
  13. var_dump($gen->send('ret2')); // string(4) "ret2" (again from within gen)
  14.                               // NULL (the return value of ->send())
  15. ?>

要很快的理解输出的精确顺序可能稍微有点困难, 但你确定要搞清楚为什按照这种方式输出. 以便后续继续阅读.

另外, 我要特别指出的有两点：

第一点,yield表达式两边的括号在PHP7以前不是可选的, 也就是说在PHP5.5和PHP5.6中圆括号是必须的.

第二点,你可能已经注意到调用current()之前没有调用rewind().这是因为生成迭代对象的时候已经隐含地执行了rewind操作.

多任务协作

如果阅读了上面的logger()例子, 你也许会疑惑“为了双向通信我为什么要使用协程呢？我完全可以使用其他非协程方法实现同样的功能啊?”, 是的, 你是对的, 但上面的例子只是为了演示了基本用法, 这个例子其实并没有真正的展示出使用协程的优点.

正如上面介绍里提到的,协程是非常强大的概念,不过却应用的很稀少而且常常十分复杂.要给出一些简单而真实的例子很难.

在这篇文章里,我决定去做的是使用协程实现多任务协作.我们要解决的问题是你想并发地运行多任务(或者“程序”）.不过我们都知道CPU在一个时刻只能运行一个任务（不考虑多核的情况）.因此处理器需要在不同的任务之间进行切换,而且总是让每个任务运行 “一小会儿”.

多任务协作这个术语中的“协作”很好的说明了如何进行这种切换的：它要求当前正在运行的任务自动把控制传回给调度器,这样就可以运行其他任务了. 这与“抢占”多任务相反, 抢占多任务是这样的：调度器可以中断运行了一段时间的任务, 不管它喜欢还是不喜欢. 协作多任务在Windows的早期版本(windows95)和Mac OS中有使用, 不过它们后来都切换到使用抢先多任务了. 理由相当明确：如果你依靠程序自动交出控制的话, 那么一些恶意的程序将很容易占用整个CPU, 不与其他任务共享.

现在你应当明白协程和任务调度之间的关系：yield指令提供了任务中断自身的一种方法, 然后把控制交回给任务调度器. 因此协程可以运行多个其他任务. 更进一步来说, yield还可以用来在任务和调度器之间进行通信.

为了实现我们的多任务调度, 首先实现“任务” — 一个用轻量级的包装的协程函数:

  1. <?php
  2. class Task {
  3.     protected $taskId;
  4.     protected $coroutine;
  5.     protected $sendValue = null;
  6.     protected $beforeFirstYield = true;
  7.  
  8.     public function __construct($taskId, Generator $coroutine) {
  9.         $this->taskId = $taskId;
  10.         $this->coroutine = $coroutine;
  11.     }
  12.  
  13.     public function getTaskId() {
  14.         return $this->taskId;
  15.     }
  16.  
  17.     public function setSendValue($sendValue) {
  18.         $this->sendValue = $sendValue;
  19.     }
  20.  
  21.     public function run() {
  22.         if ($this->beforeFirstYield) {
  23.             $this->beforeFirstYield = false;
  24.             return $this->coroutine->current();
  25.         } else {
  26.             $retval = $this->coroutine->send($this->sendValue);
  27.             $this->sendValue = null;
  28.             return $retval;
  29.         }
  30.     }
  31.  
  32.     public function isFinished() {
  33.         return !$this->coroutine->valid();
  34.     }
  35. }

如代码, 一个任务就是用任务ID标记的一个协程(函数). 使用setSendValue()方法, 你可以指定哪些值将被发送到下次的恢复(在之后你会了解到我们需要这个), run()函数确实没有做什么, 除了调用send()方法的协同程序, 要理解为什么添加了一个 beforeFirstYieldflag变量, 需要考虑下面的代码片段：

  1. <?php
  2. function gen() {
  3.     yield 'foo';
  4.     yield 'bar';
  5. }
  6.  
  7. $gen = gen();
  8. var_dump($gen->send('something'));
  9.  
  10. // 如之前提到的在send之前, 当$gen迭代器被创建的时候一个renwind()方法已经被隐式调用
  11. // 所以实际上发生的应该类似:
  12. //$gen->rewind();
  13. //var_dump($gen->send('something'));
  14.  
  15. //这样renwind的执行将会导致第一个yield被执行, 并且忽略了他的返回值.
  16. //真正当我们调用yield的时候, 我们得到的是第二个yield的值! 导致第一个yield的值被忽略.
  17. //string(3) "bar"

通过添加 beforeFirstYieldcondition 我们可以确定第一个yield的值能被正确返回.

调度器现在不得不比多任务循环要做稍微多点了, 然后才运行多任务：

  1. <?php
  2. class Scheduler {
  3.     protected $maxTaskId = 0;
  4.     protected $taskMap = []; // taskId => task
  5.     protected $taskQueue;
  6.  
  7.     public function __construct() {
  8.         $this->taskQueue = new SplQueue();
  9.     }
  10.  
  11.     public function newTask(Generator $coroutine) {
  12.         $tid = ++$this->maxTaskId;
  13.         $task = new Task($tid, $coroutine);
  14.         $this->taskMap[$tid] = $task;
  15.         $this->schedule($task);
  16.         return $tid;
  17.     }
  18.  
  19.     public function schedule(Task $task) {
  20.         $this->taskQueue->enqueue($task);
  21.     }
  22.  
  23.     public function run() {
  24.         while (!$this->taskQueue->isEmpty()) {
  25.             $task = $this->taskQueue->dequeue();
  26.             $task->run();
  27.  
  28.             if ($task->isFinished()) {
  29.                 unset($this->taskMap[$task->getTaskId()]);
  30.             } else {
  31.                 $this->schedule($task);
  32.             }
  33.         }
  34.     }
  35. }
  36. ?>

newTask()方法（使用下一个空闲的任务id）创建一个新任务,然后把这个任务放入任务map数组里. 接着它通过把任务放入任务队列里来实现对任务的调度. 接着run()方法扫描任务队列, 运行任务.如果一个任务结束了, 那么它将从队列里删除, 否则它将在队列的末尾再次被调度.

让我们看看下面具有两个简单（没有什么意义）任务的调度器：

  1. <?php
  2. function task1() {
  3.     for ($i = 1; $i <= 10; ++$i) {
  4.         echo "This is task 1 iteration $i.\n";
  5.         yield;
  6.     }
  7. }
  8.  
  9. function task2() {
  10.     for ($i = 1; $i <= 5; ++$i) {
  11.         echo "This is task 2 iteration $i.\n";
  12.         yield;
  13.     }
  14. }
  15.  
  16. $scheduler = new Scheduler;
  17.  
  18. $scheduler->newTask(task1());
  19. $scheduler->newTask(task2());
  20.  
  21. $scheduler->run();

两个任务都仅仅回显一条信息,然后使用yield把控制回传给调度器.输出结果如下：

  1. This is task 1 iteration 1.
  2. This is task 2 iteration 1.
  3. This is task 1 iteration 2.
  4. This is task 2 iteration 2.
  5. This is task 1 iteration 3.
  6. This is task 2 iteration 3.
  7. This is task 1 iteration 4.
  8. This is task 2 iteration 4.
  9. This is task 1 iteration 5.
  10. This is task 2 iteration 5.
  11. This is task 1 iteration 6.
  12. This is task 1 iteration 7.
  13. This is task 1 iteration 8.
  14. This is task 1 iteration 9.
  15. This is task 1 iteration 10.

输出确实如我们所期望的：对前五个迭代来说,两个任务是交替运行的, 而在第二个任务结束后, 只有第一个任务继续运行.

与调度器之间通信

既然调度器已经运行了, 那么我们来看下一个问题：任务和调度器之间的通信.

我们将使用进程用来和操作系统会话的同样的方式来通信：系统调用.

我们需要系统调用的理由是操作系统与进程相比它处在不同的权限级别上. 因此为了执行特权级别的操作（如杀死另一个进程), 就不得不以某种方式把控制传回给内核, 这样内核就可以执行所说的操作了. 再说一遍, 这种行为在内部是通过使用中断指令来实现的. 过去使用的是通用的int指令, 如今使用的是更特殊并且更快速的syscall/sysenter指令.

我们的任务调度系统将反映这种设计：不是简单地把调度器传递给任务（这样就允许它做它想做的任何事), 我们将通过给yield表达式传递信息来与系统调用通信. 这儿yield即是中断, 也是传递信息给调度器（和从调度器传递出信息）的方法.

为了说明系统调用, 我们对可调用的系统调用做一个小小的封装：

  1. <?php
  2. class SystemCall {
  3.     protected $callback;
  4.  
  5.     public function __construct(callable $callback) {
  6.         $this->callback = $callback;
  7.     }
  8.  
  9.     public function __invoke(Task $task, Scheduler $scheduler) {
  10.         $callback = $this->callback;
  11.         return $callback($task, $scheduler);
  12.     }
  13. }

它和其他任何可调用的对象(使用_invoke)一样的运行, 不过它要求调度器把正在调用的任务和自身传递给这个函数.

为了解决这个问题我们不得不微微的修改调度器的run方法：

  1. <?php
  2. public function run() {
  3.     while (!$this->taskQueue->isEmpty()) {
  4.         $task = $this->taskQueue->dequeue();
  5.         $retval = $task->run();
  6.  
  7.         if ($retval instanceof SystemCall) {
  8.             $retval($task, $this);
  9.             continue;
  10.         }
  11.  
  12.         if ($task->isFinished()) {
  13.             unset($this->taskMap[$task->getTaskId()]);
  14.         } else {
  15.             $this->schedule($task);
  16.         }
  17.     }
  18. }

第一个系统调用除了返回任务ID外什么都没有做：

  1. <?php
  2. function getTaskId() {
  3.     return new SystemCall(function(Task $task, Scheduler $scheduler) {
  4.         $task->setSendValue($task->getTaskId());
  5.         $scheduler->schedule($task);
  6.     });
  7. }

这个函数设置任务id为下一次发送的值, 并再次调度了这个任务 .由于使用了系统调用, 所以调度器不能自动调用任务, 我们需要手工调度任务（稍后你将明白为什么这么做). 要使用这个新的系统调用的话, 我们要重新编写以前的例子：

  1. <?php
  2. function task($max) {
  3.     $tid = (yield getTaskId()); // <-- here's the syscall!
  4.     for ($i = 1; $i <= $max; ++$i) {
  5.         echo "This is task $tid iteration $i.\n";
  6.         yield;
  7.     }
  8. }
  9.  
  10. $scheduler = new Scheduler;
  11.  
  12. $scheduler->newTask(task(10));
  13. $scheduler->newTask(task(5));
  14.  
  15. $scheduler->run();
  16. ?>

这段代码将给出与前一个例子相同的输出. 请注意系统调用如何同其他任何调用一样正常地运行, 只不过预先增加了yield.

要创建新的任务, 然后再杀死它们的话, 需要两个以上的系统调用：

  1. <?php
  2. function newTask(Generator $coroutine) {
  3.     return new SystemCall(
  4.         function(Task $task, Scheduler $scheduler) use ($coroutine) {
  5.             $task->setSendValue($scheduler->newTask($coroutine));
  6.             $scheduler->schedule($task);
  7.         }
  8.     );
  9. }
  10.  
  11. function killTask($tid) {
  12.     return new SystemCall(
  13.         function(Task $task, Scheduler $scheduler) use ($tid) {
  14.             $task->setSendValue($scheduler->killTask($tid));
  15.             $scheduler->schedule($task);
  16.         }
  17.     );
  18. }

killTask函数需要在调度器里增加一个方法：

  1. <?php
  2. public function killTask($tid) {
  3.     if (!isset($this->taskMap[$tid])) {
  4.         return false;
  5.     }
  6.  
  7.     unset($this->taskMap[$tid]);
  8.  
  9.     // This is a bit ugly and could be optimized so it does not have to walk the queue,
  10.     // but assuming that killing tasks is rather rare I won't bother with it now
  11.     foreach ($this->taskQueue as $i => $task) {
  12.         if ($task->getTaskId() === $tid) {
  13.             unset($this->taskQueue[$i]);
  14.             break;
  15.         }
  16.     }
  17.  
  18.     return true;
  19. }

用来测试新功能的微脚本：

  1. <?php
  2. function childTask() {
  3.     $tid = (yield getTaskId());
  4.     while (true) {
  5.         echo "Child task $tid still alive!\n";
  6.         yield;
  7.     }
  8. }
  9.  
  10. function task() {
  11.     $tid = (yield getTaskId());
  12.     $childTid = (yield newTask(childTask()));
  13.  
  14.     for ($i = 1; $i <= 6; ++$i) {
  15.         echo "Parent task $tid iteration $i.\n";
  16.         yield;
  17.  
  18.         if ($i == 3) yield killTask($childTid);
  19.     }
  20. }
  21.  
  22. $scheduler = new Scheduler;
  23. $scheduler->newTask(task());
  24. $scheduler->run();
  25. ?>

这段代码将打印以下信息：

  1. Parent task 1 iteration 1.
  2. Child task 2 still alive!
  3. Parent task 1 iteration 2.
  4. Child task 2 still alive!
  5. Parent task 1 iteration 3.
  6. Child task 2 still alive!
  7. Parent task 1 iteration 4.
  8. Parent task 1 iteration 5.
  9. Parent task 1 iteration 6.

经过三次迭代以后子任务将被杀死, 因此这就是”Child is still alive”消息结束的时候. 不过你要明白这还不是真正的父子关系. 因为在父任务结束后子任务仍然可以运行, 子任务甚至可以杀死父任务. 可以修改调度器使它具有更层级化的任务结构, 不过这个不是我们这个文章要继续讨论的范围了.

现在你可以实现许多进程管理调用. 例如 wait（它一直等待到任务结束运行时), exec（它替代当前任务)和fork（它创建一个当前任务的克隆). fork非常酷,而 且你可以使用PHP的协程真正地实现它, 因为它们都支持克隆.

让我们把这些留给有兴趣的读者吧,我们来看下一个议题.

非阻塞IO

很明显, 我们的任务管理系统的真正很酷的应用应该是web服务器. 它有一个任务是在套接字上侦听是否有新连接, 当有新连接要建立的时候, 它创建一个新任务来处理新连接.

Web服务器最难的部分通常是像读数据这样的套接字操作是阻塞的. 例如PHP将等待到客户端完成发送为止. 对一个Web服务器来说, 这有点不太高效. 因为服务器在一个时间点上只能处理一个连接.

解决方案是确保在真正对套接字读写之前该套接字已经“准备就绪”. 为了查找哪个套接字已经准备好读或者写了, 可以使用 流选择函数.

首先,让我们添加两个新的 syscall, 它们将等待直到指定socket 准备好：

  1. <?php
  2. function waitForRead($socket) {
  3.     return new SystemCall(
  4.         function(Task $task, Scheduler $scheduler) use ($socket) {
  5.             $scheduler->waitForRead($socket, $task);
  6.         }
  7.     );
  8. }
  9.  
  10. function waitForWrite($socket) {
  11.     return new SystemCall(
  12.         function(Task $task, Scheduler $scheduler) use ($socket) {
  13.             $scheduler->waitForWrite($socket, $task);
  14.         }
  15.     );
  16. }

这些 syscall 只是在调度器中代理其各自的方法：

  1. <?php
  2.  
  3. // resourceID => [socket, tasks]
  4. protected $waitingForRead = [];
  5. protected $waitingForWrite = [];
  6.  
  7. public function waitForRead($socket, Task $task) {
  8.     if (isset($this->waitingForRead[(int) $socket])) {
  9.         $this->waitingForRead[(int) $socket][1][] = $task;
  10.     } else {
  11.         $this->waitingForRead[(int) $socket] = [$socket, [$task]];
  12.     }
  13. }
  14.  
  15. public function waitForWrite($socket, Task $task) {
  16.     if (isset($this->waitingForWrite[(int) $socket])) {
  17.         $this->waitingForWrite[(int) $socket][1][] = $task;
  18.     } else {
  19.         $this->waitingForWrite[(int) $socket] = [$socket, [$task]];
  20.     }
  21. }

waitingForRead 及 waitingForWrite 属性是两个承载等待的socket 及等待它们的任务的数组. 有趣的部分在于下面的方法,它将检查 socket 是否可用, 并重新安排各自任务：

  1. <?php
  2.  
  3. protected function ioPoll($timeout) {
  4.     $rSocks = [];
  5.     foreach ($this->waitingForRead as list($socket)) {
  6.         $rSocks[] = $socket;
  7.     }
  8.  
  9.     $wSocks = [];
  10.     foreach ($this->waitingForWrite as list($socket)) {
  11.         $wSocks[] = $socket;
  12.     }
  13.  
  14.     $eSocks = []; // dummy
  15.  
  16.     if (!stream_select($rSocks, $wSocks, $eSocks, $timeout)) {
  17.         return;
  18.     }
  19.  
  20.     foreach ($rSocks as $socket) {
  21.         list(, $tasks) = $this->waitingForRead[(int) $socket];
  22.         unset($this->waitingForRead[(int) $socket]);
  23.  
  24.         foreach ($tasks as $task) {
  25.             $this->schedule($task);
  26.         }
  27.     }
  28.  
  29.     foreach ($wSocks as $socket) {
  30.         list(, $tasks) = $this->waitingForWrite[(int) $socket];
  31.         unset($this->waitingForWrite[(int) $socket]);
  32.  
  33.         foreach ($tasks as $task) {
  34.             $this->schedule($task);
  35.         }
  36.     }
  37. }

stream_select 函数接受承载读取、写入以及待检查的socket的数组（我们无需考虑最后一类). 数组将按引用传递, 函数只会保留那些状态改变了的数组元素. 我们可以遍历这些数组, 并重新安排与之相关的任务.

为了正常地执行上面的轮询动作, 我们将在调度器里增加一个特殊的任务：

  1. <?php
  2. protected function ioPollTask() {
  3.     while (true) {
  4.         if ($this->taskQueue->isEmpty()) {
  5.             $this->ioPoll(null);
  6.         } else {
  7.             $this->ioPoll(0);
  8.         }
  9.         yield;
  10.     }
  11. }
  12. ?>

需要在某个地方注册这个任务, 例如, 你可以在run()方法的开始增加$this->newTask($this->ioPollTask()). 然后就像其他任务一样每执行完整任务循环一次就执行轮询操作一次（这么做一定不是最好的方法), ioPollTask将使用0秒的超时来调用ioPoll, 也就是stream_select将立即返回（而不是等待）.

只有任务队列为空时,我们才使用null超时,这意味着它一直等到某个套接口准备就绪.如果我们没有这么做,那么轮询任务将一而再, 再而三的循环运行, 直到有新的连接建立. 这将导致100%的CPU利用率. 相反, 让操作系统做这种等待会更有效.

现在编写服务器就相对容易了：

  1. <?php
  2.  
  3. function server($port) {
  4.     echo "Starting server at port $port...\n";
  5.  
  6.     $socket = @stream_socket_server("tcp://localhost:$port", $errNo, $errStr);
  7.     if (!$socket) throw new Exception($errStr, $errNo);
  8.  
  9.     stream_set_blocking($socket, 0);
  10.  
  11.     while (true) {
  12.         yield waitForRead($socket);
  13.         $clientSocket = stream_socket_accept($socket, 0);
  14.         yield newTask(handleClient($clientSocket));
  15.     }
  16. }
  17.  
  18. function handleClient($socket) {
  19.     yield waitForRead($socket);
  20.     $data = fread($socket, 8192);
  21.  
  22.     $msg = "Received following request:\n\n$data";
  23.     $msgLength = strlen($msg);
  24.  
  25.     $response = <<<RES
  26. HTTP/1.1 200 OK\r
  27. Content-Type: text/plain\r
  28. Content-Length: $msgLength\r
  29. Connection: close\r
  30. \r
  31. $msg
  32. RES;
  33.  
  34.     yield waitForWrite($socket);
  35.     fwrite($socket, $response);
  36.  
  37.     fclose($socket);
  38. }
  39.  
  40. $scheduler = new Scheduler;
  41. $scheduler->newTask(server(8000));
  42. $scheduler->run();

这段代码实现了接收localhost:8000上的连接, 然后返回发送来的内容作为HTTP响应. 当然它还能处理真正的复杂HTTP请求, 上面的代码片段只是演示了一般性的概念.

你可以使用类似于ab -n 10000 -c 100 localhost:8000/这样命令来测试服务器. 这条命令将向服务器发送10000个请求, 并且其中100个请求将同时到达. 使用这样的数目, 我得到了处于中间的10毫秒的响应时间. 不过还有一个问题：有少数几个请求真正处理的很慢（如5秒), 这就是为什么总吞吐量只有2000请求/秒（如果是10毫秒的响应时间的话, 总的吞吐量应该更像是10000请求/秒)

协程堆栈

如果你试图用我们的调度系统建立更大的系统的话, 你将很快遇到问题：我们习惯了把代码分解为更小的函数, 然后调用它们. 然而, 如果使用了协程的话, 就不能这么做了. 例如,看下面代码：

  1. <?php
  2. function echoTimes($msg, $max) {
  3.     for ($i = 1; $i <= $max; ++$i) {
  4.         echo "$msg iteration $i\n";
  5.         yield;
  6.     }
  7. }
  8.  
  9. function task() {
  10.     echoTimes('foo', 10); // print foo ten times
  11.     echo "---\n";
  12.     echoTimes('bar', 5); // print bar five times
  13.     yield; // force it to be a coroutine
  14. }
  15.  
  16. $scheduler = new Scheduler;
  17. $scheduler->newTask(task());
  18. $scheduler->run();

这段代码试图把重复循环“输出n次“的代码嵌入到一个独立的协程里,然后从主任务里调用它. 然而它无法运行. 正如在这篇文章的开始所提到的, 调用生成器（或者协程）将没有真正地做任何事情, 它仅仅返回一个对象.这 也出现在上面的例子里:echoTimes调用除了放回一个（无用的）协程对象外不做任何事情.

为了仍然允许这么做,我们需要在这个裸协程上写一个小小的封装.我们将调用它：“协程堆栈”. 因为它将管理嵌套的协程调用堆栈. 这将是通过生成协程来调用子协程成为可能：

  1. $retval = (yield someCoroutine($foo, $bar));

使用yield,子协程也能再次返回值：

  1. yield retval("I'm a return value!");

retval函数除了返回一个值的封装外没有做任何其他事情.这个封装将表示它是一个返回值.

  1. <?php
  2.  
  3. class CoroutineReturnValue {
  4.     protected $value;
  5.  
  6.     public function __construct($value) {
  7.         $this->value = $value;
  8.     }
  9.  
  10.     public function getValue() {
  11.         return $this->value;
  12.     }
  13. }
  14.  
  15. function retval($value) {
  16.     return new CoroutineReturnValue($value);
  17. }

为了把协程转变为协程堆栈（它支持子调用）,我们将不得不编写另外一个函数（很明显,它是另一个协程）：

  1. <?php
  2.  
  3. function stackedCoroutine(Generator $gen) {
  4.     $stack = new SplStack;
  5.  
  6.     for (;;) {
  7.         $value = $gen->current();
  8.  
  9.         if ($value instanceof Generator) {
  10.             $stack->push($gen);
  11.             $gen = $value;
  12.             continue;
  13.         }
  14.  
  15.         $isReturnValue = $value instanceof CoroutineReturnValue;
  16.         if (!$gen->valid() || $isReturnValue) {
  17.             if ($stack->isEmpty()) {
  18.                 return;
  19.             }
  20.  
  21.             $gen = $stack->pop();
  22.             $gen->send($isReturnValue ? $value->getValue() : NULL);
  23.             continue;
  24.         }
  25.  
  26.         $gen->send(yield $gen->key() => $value);
  27.     }
  28. }

这个函数在调用者和当前正在运行的子协程之间扮演着简单代理的角色.在$gen->send(yield $gen->key()=>$value)；这行完成了代理功能.另外它检查返回值是否是生成器,万一是生成器的话,它将开始运行这个生成器,并把前一个协程压入堆栈里.一旦它获得了CoroutineReturnValue的话,它将再次请求堆栈弹出,然后继续执行前一个协程.

为了使协程堆栈在任务里可用,任务构造器里的$this-coroutine =$coroutine;这行需要替代为$this->coroutine = StackedCoroutine($coroutine);.

现在我们可以稍微改进上面web服务器例子：把wait+read(和wait+write和warit+accept)这样的动作分组为函数.为了分组相关的 功能,我将使用下面类：

  1. <?php
  2.  
  3. class CoSocket {
  4.     protected $socket;
  5.  
  6.     public function __construct($socket) {
  7.         $this->socket = $socket;
  8.     }
  9.  
  10.     public function accept() {
  11.         yield waitForRead($this->socket);
  12.         yield retval(new CoSocket(stream_socket_accept($this->socket, 0)));
  13.     }
  14.  
  15.     public function read($size) {
  16.         yield waitForRead($this->socket);
  17.         yield retval(fread($this->socket, $size));
  18.     }
  19.  
  20.     public function write($string) {
  21.         yield waitForWrite($this->socket);
  22.         fwrite($this->socket, $string);
  23.     }
  24.  
  25.     public function close() {
  26.         @fclose($this->socket);
  27.     }
  28. }

现在服务器可以编写的稍微简洁点了：

  1. <?php
  2.  
  3. function server($port) {
  4.     echo "Starting server at port $port...\n";
  5.  
  6.     $socket = @stream_socket_server("tcp://localhost:$port", $errNo, $errStr);
  7.     if (!$socket) throw new Exception($errStr, $errNo);
  8.  
  9.     stream_set_blocking($socket, 0);
  10.  
  11.     $socket = new CoSocket($socket);
  12.     while (true) {
  13.         yield newTask(
  14.             handleClient(yield $socket->accept())
  15.         );
  16.     }
  17. }
  18.  
  19. function handleClient($socket) {
  20.     $data = (yield $socket->read(8192));
  21.  
  22.     $msg = "Received following request:\n\n$data";
  23.     $msgLength = strlen($msg);
  24.  
  25.     $response = <<<RES
  26. HTTP/1.1 200 OK\r
  27. Content-Type: text/plain\r
  28. Content-Length: $msgLength\r
  29. Connection: close\r
  30. \r
  31. $msg
  32. RES;
  33.  
  34.     yield $socket->write($response);
  35.     yield $socket->close();
  36. }

错误处理

作为一个优秀的程序员, 相信你已经察觉到上面的例子缺少错误处理. 几乎所有的 socket 都是易出错的. 我没有这样做的原因一方面固然是因为错误处理的乏味（特别是 socket), 另一方面也在于它很容易使代码体积膨胀.

不过, 我仍然想讲下常见的协程错误处理：协程允许使用 throw() 方法在其内部抛出一个错误.

throw() 方法接受一个 Exception, 并将其抛出到协程的当前悬挂点, 看看下面代码：

  1. <?php
  2. function gen() {
  3.     echo "Foo\n";
  4.     try {
  5.         yield;
  6.     } catch (Exception $e) {
  7.         echo "Exception: {$e->getMessage()}\n";
  8.     }
  9.     echo "Bar\n";
  10. }
  11.  
  12. $gen = gen();
  13. $gen->rewind(); // echos "Foo"
  14. $gen->throw(new Exception('Test')); // echos "Exception: Test"
  15.                                     // and "Bar"

这非常好, 有没有? 因为我们现在可以使用系统调用以及子协程调用异常抛出了.

不过我们要对系统调用Scheduler::run() 方法做一些小调整：

  1. <?php
  2. if ($retval instanceof SystemCall) {
  3.     try {
  4.         $retval($task, $this);
  5.     } catch (Exception $e) {
  6.         $task->setException($e);
  7.         $this->schedule($task);
  8.     }
  9.     continue;
  10. }

Task 类也要添加 throw 调用处理：

  1. <?php
  2. class Task {
  3.     // ...
  4.     protected $exception = null;
  5.  
  6.     public function setException($exception) {
  7.         $this->exception = $exception;
  8.     }
  9.  
  10.     public function run() {
  11.         if ($this->beforeFirstYield) {
  12.             $this->beforeFirstYield = false;
  13.             return $this->coroutine->current();
  14.         } elseif ($this->exception) {
  15.             $retval = $this->coroutine->throw($this->exception);
  16.             $this->exception = null;
  17.             return $retval;
  18.         } else {
  19.             $retval = $this->coroutine->send($this->sendValue);
  20.             $this->sendValue = null;
  21.             return $retval;
  22.         }
  23.     }
  24.  
  25.     // ...
  26. }

现在, 我们已经可以在系统调用中使用异常抛出了！例如,要调用 killTask,让我们在传递 ID 不可用时抛出一个异常：

  1. <?php
  2. function killTask($tid) {
  3.     return new SystemCall(
  4.         function(Task $task, Scheduler $scheduler) use ($tid) {
  5.             if ($scheduler->killTask($tid)) {
  6.                 $scheduler->schedule($task);
  7.             } else {
  8.                 throw new InvalidArgumentException('Invalid task ID!');
  9.             }
  10.         }
  11.     );
  12. }

试试看：

  1. <?php
  2. function task() {
  3.     try {
  4.         yield killTask(500);
  5.     } catch (Exception $e) {
  6.         echo 'Tried to kill task 500 but failed: ', $e->getMessage(), "\n";
  7.     }
  8. }

这些代码现在尚不能正常运作,因为 stackedCoroutine 函数无法正确处理异常.要修复需要做些调整：

  1. <?php
  2. function stackedCoroutine(Generator $gen) {
  3.     $stack = new SplStack;
  4.     $exception = null;
  5.  
  6.     for (;;) {
  7.         try {
  8.             if ($exception) {
  9.                 $gen->throw($exception);
  10.                 $exception = null;
  11.                 continue;
  12.             }
  13.  
  14.             $value = $gen->current();
  15.  
  16.             if ($value instanceof Generator) {
  17.                 $stack->push($gen);
  18.                 $gen = $value;
  19.                 continue;
  20.             }
  21.  
  22.             $isReturnValue = $value instanceof CoroutineReturnValue;
  23.             if (!$gen->valid() || $isReturnValue) {
  24.                 if ($stack->isEmpty()) {
  25.                     return;
  26.                 }
  27.  
  28.                 $gen = $stack->pop();
  29.                 $gen->send($isReturnValue ? $value->getValue() : NULL);
  30.                 continue;
  31.             }
  32.  
  33.             try {
  34.                 $sendValue = (yield $gen->key() => $value);
  35.             } catch (Exception $e) {
  36.                 $gen->throw($e);
  37.                 continue;
  38.             }
  39.  
  40.             $gen->send($sendValue);
  41.         } catch (Exception $e) {
  42.             if ($stack->isEmpty()) {
  43.                 throw $e;
  44.             }
  45.  
  46.             $gen = $stack->pop();
  47.             $exception = $e;
  48.         }
  49.     }
  50. }

结束语

在这篇文章里,我使用多任务协作构建了一个任务调度器, 其中包括执行“系统调用”, 做非阻塞操作和处理错误. 所有这些里真正很酷的事情是任务的结果代码看起来完全同步, 甚至任务正在执行大量的异步操作的时候也是这样.

如果你打算从套接口读取数据的话, 你将不需要传递某个回调函数或者注册一个事件侦听器. 相反, 你只要书写yield $socket->read(). 这儿大部分都是你常常也要编写的,只 在它的前面增加yield.

当我第一次听到协程的时候, 我发现这个概念完全令人折服, 正是因为这个激励我在PHP中实现了它. 同时我发现协程真正非常的令人惊叹:在令人敬畏的代码和一大堆乱代码之间只有一线之隔, 我认为协程恰好处在这条线上, 不多不少. 不过, 要说使用上面所述的方法书写异步代码是否真的有益, 这个就见仁见智了.

但, 不管咋样, 我认为这是一个有趣的话题, 而且我希望你也能找到它的乐趣. 欢迎评论:)

posted @ 2017-06-11 15:17  独孤败天大神  阅读(323)  评论(0)  编辑  收藏  举报