代码改变世界

CLR线程概览（一）

2016-05-04 23:09  知平软件  阅读(1417)  评论(0)  编辑  收藏  举报

托管 vs. 原生线程

托管代码在“托管线程”上执行，（托管线程）与操作系统提供的原生线程不同。原生线程是在物理机器上执行的原生代码序列；而托管线程则是在CLR虚拟机上执行的虚拟线程。

正如JIT解释器将“虚拟的”中间（IL）指令映射到物理机器上的原声指令，CLR线程基础架构将“虚拟的”托管线程映射到操作系统的原生线程上。

在任意时刻，一个托管线程可能会也可能不会被分配到一个原生线程执行。例如，一个已经被创建（通过“new System.Threading.Thread”）但是未启动（通过“System.Threading.Thread.Start”）的托管线程不会被指派到原生线程上执行。类似的，虽然CLR在实际上不会这样做，但是一个托管线程在执行时可被切换到多个原生线程上执行。

托管代码里公开的Thread接口就是用来隐藏其底层原生线程的细节的：

  • 托管线程无需绑定到一个原生线程上（甚至有可能根本不映射到原生线程上）。
  • 不同操作系统的原生线程不一样。
  • 原则上，托管线程是“虚拟的”。

CLR提供并实现了托管线程的抽象。比如说，虽然其不暴露操作系统的线程本地存储（TLS）机制，但是其提供了托管“线程静态”变量。类似的，虽然其不提供原生线程的“线程ID”，但是其提供与操作系统无关的“托管线程ID”。不过为了便于诊断问题，底层原生线程的一些细节可以通过System.Diagnostics命名空间里的类型获得。

托管线程还提供了原生线程通常不用的功能。第一，托管线程在堆栈上使用GC引用，这样CLR必须在GC的时候可以枚举（甚至可能修改）这些GC引用。为了实现这个目的，CLR必须“暂停”每个托管线程（即停止执行以便可以发现所有的GC引用）。第二，当AppDomain卸载时，CLR必须保证没有线程在执行这个AppDomain里的代码。这要求CLR可以强制线程从AppDomain脱离，CLR通过在线程里注入ThreadAbortException来实现这点。

数据结构

每个托管线程都跟一个Thread对象关联，其在threads.h里定义。这个对象跟踪CLR关于托管对象所需要了解的所有东西。包括如线程的当前GC模式和堆栈帧链这些必需品，也包括为了性能因素创建的很多元素（如一些快速arena-style分配器）。

所有的Thread对象都保存在ThreadStore中（也在threads.h中定义），其时一个所有已知线程的列表。要遍历所有的托管线程，需要先获取ThreadStoreLock，再使用ThreadStore::GetAllThreadList来枚举所有的线程对象。这个列表也包含没有被指派原生线程的托管线程（如未启动的线程，或原生线程已经存在了）。

原生线程可以通过一个原生线程本地存储（TLS）槽来获取绑定到该原生线程的托管线程。这允许原生线程上运行的代码可以通过GetThread()获取对应的Thread对象。

另外，许多托管线程有一个与原生Thread对象相区别的 托管 Thread对象（System.Threading.Thread）。托管Thread对象提供了方法以便托管代码与线程交互，其大部分是原生Thread对象功能的封装。通过Thread.CurrentThread可以（在托管代码中）获取到当前的托管线程对象。

在调试器里，“!Threads”这个SOS扩展命令可以用来枚举ThreadStore里的所有Thread对象。

线程的生命周期

一个托管线程在下列这些情形中创建：

  1. 托管代码通过System.Threading.Thread显式要求CLR创建一个新线程。
  2. CLR自己创建的托管线程（参见“特殊线程”一节）。
  3. 原生代码在原生线程上调用托管代码，而这个托管代码没有跟托管线程相关联（通过“反向p/invoke”或者COM互交互）。
  4. 一个托管进程被启动了（在进程的主线程上调用其Main函数）。

在#1和#2这些情形中，CLR负责创建支撑托管线程的原生线程。这个只会在线程实际上启动了才会发生。在这些情形里，CLR“负责”原生线程；CLR负责原生线程的生命周期，由于CLR创建了它，因此也就知道线程的存在。

在#3和#4这些情形里，原生线程在托管线程之前就存在了，而且由CLR之外的代码负责。CLR不负责这种原生线程的生命周期。CLR只是在其第一次调用托管代码时意识到其存在。

当一个原生线程结束时，CLR通过其DllMain函数获得通知。这在操作系统的“加载锁”中发生，所以在处理这个通知的时候只能做很少（安全）的事情。与其销毁与托管线程关联的数据结构，这个线程只是被简单地标识成“死亡”状态，并启动finalizer线程。finalizer线程会遍历ThreadStore里所有死亡且托管代码不再使用的线程。

暂停

CLR必须可以找到托管对象的所有引用以便执行GC。托管代码一直在不停的访问GC堆，操作堆栈和寄存器上的引用。CLR必须保证所有线程停在安全可靠的位置（这样他们不会修改GC堆），以便找到所有的托管对象。它只会停在安全点，这个时候可以在寄存器和堆栈上检查所有可用的引用。

另一个办法就是GC堆、每个线程的堆栈和寄存器状态都是所谓的“共享状态”，可被多个线程访问。正如大多数共享状态一样，需要一些“锁”来保护它们。托管代码在访问堆之前必须要获取锁，并且在安全的时候释放锁。

CLR将这种“锁”称作线程的“GC模式”。当线程获取锁的时候，处于“合作模式（cooperative mode）”；其必须与GC“合作”（通过释放锁）才能允许进行垃圾回收。而线程没有获取锁的时候，处于“优先模式（preemptive mode）” － GC可以“优先”进行垃圾回收，因为其知道线程没有访问GC堆。

GC只有在所有线程都处于“优先”模式（即没有获取锁）时才能进行垃圾回收。将所有线程移到优先模式的过程就称为“GC悬停（GC suspension）”或“暂停执行引擎”。

一个不大成熟的实现“锁”的方案是要求每个托管线程在访问GC堆的时候实际获取和释放保护它的锁。然后GC会向每个线程尝试获取锁，一旦其获取所有线程的锁，就可以安全的进行垃圾回收了。

然而，上面的方案因为两个原因而显得不足。第一，这会要求托管代码耗费大量的时间在于获取和释放锁（或至少是检查GC是否在尝试获取锁 － 也就是“GC轮询 GC poll － 即不停的向GC轮询”）。第二，它要求JIT解释器生成大量的“GC信息代码”，以描述每一行JIT生成的代码后的堆栈的布局和寄存器状态，这些信息会耗费大量的内存。

我们针对上述办法的改进方案是，将JIT后的托管代码区分成“部分可中断”和“全部可中断”的代码。在部分可中断代码中，调用其他函数的地方是唯一的安全点，且JIT生成显式的“GC轮询”点以便检查是否有等待的GC。（JIT）只需要在这些地方生成GC信息。在全部可中断代码里，每个指令都是一个安全点，JIT为每个指令生成GC信息 － 但是其不生成“GC”轮询代码。全部可中断代码而是通过劫持线程（该过程在后文讲解）来进入“中断”状态。JIT基于代码质量，GC信息的大小以及GC悬停的时间延迟这些因素来判定是产生全部或部分可中断代码。

基于上述信息，定义了三个基础操作：进入合作模式，离开合作模式以及暂停执行引擎。

进入合作模式

一个线程通过调用Thread::DisablePreemptiveGC进入合作模式。其为当前线程获取“锁”：

  1. 如果有GC正在执行（GC拥有这个锁），那么等待GC完成。
  2. 标识这个线程将进入合作模式，在这个线程进入“优先模式”之前不能触发GC。

两个步骤实际上是原子操作。

进入优先模式

一个线程通过调用Thread::EnablePreemptiveGC来进入优先模式（释放锁）。其通过标识线程不再进入合作模式来完成，并通知GC线程可以启动执行。

中断执行引擎

当GC开始运行时，第一步就是中断执行引擎。GCHeap::SuspendEE函数就是用来干这个的：

  1. 设置一个全局变量(g_fTrapReturningThreads)来标志GC正在执行，任何想进入合作模式的线程都会被阻止，直到GC运行完毕。
  2. 找出所有处于合作模式的线程，针对每个这样的线程，试图劫持线程并强制其离开合作模式。
  3. 重复前面的步骤直到没有线程处于合作模式。

劫持

为了GC悬停而进行的劫持操作是通过Thread::SysSuspendForGC函数完成的。这个函数通过强制所有运行在合作模式的托管线程在“安全点”离开合作模式。其通过枚举所有的托管线程（通过遍历ThreadStore），针对每个运行在合作模式中的托管线程：

  1. 通过Win32的SuspendThread API来暂停底层的原生线程。这个API强制线程从运行状态停止在任意位置（不一定是一个安全点）。
  2. 通过GetThreadContext获取线程的上下文（CONTEXT）。这是一个操作系统的概念；上下文存放了线程的当前寄存器状态。这就允许我们来监视其指令寄存器，并获知正在运行的指令类型。
  3. 再次检查线程是否在合作模式，因为其可能在被暂停之前已经离开合作模式了。如果是这样的话，那么线程处于危险地段：线程可能在运行任意的原生代码，必须立即恢复执行以规避死锁。
  4. 检查线程是否在运行托管代码。其有可能在合作模式下运行虚拟机（VM）自身的原生代码（参看下面的同步章节），其也需要跟上一步一样立即恢复执行。
  5. 那么线程目前是暂停在托管代码上。取决于代码是全部还是部分可中断，采取下面的措施之一：
    • 如果是全部可中断，那么在任意位置GC都是安全的，因为线程按照全部可中断的定义就是在安全点。理论上可以让线程停在这个位置（因为是安全的），但是几个历史性的操作系统Bug妨碍了这点，因为前面获取的线程上下文也许已经损坏了）。于是（CLR）改写线程的指令寄存器，引导线程跳转到一个代码块以便获取更完整的上下文，离开合作模式，等待GC运行完毕，重新进入合作模式，并且还原线程的寄存器。
    • 如果是部分可中断，那么线程按照定义不在一个安全点。但是，其调用者是处于安全点的（函数间切换）。基于这个知识，CLR在堆栈帧上“劫持”起返回地址（即修改堆栈），引导线程跳转到跟“全部可中断”类似的代码块。当函数返回时，其不是返回原来的调用函数那里，而是这个代码块（这个函数可能也会执行JIT在之前注入的GC轮询，导致线程离开合作模式并撤销劫持操作）。

ThreadAbort / AppDomain-Unload

为了卸载一个应用程序域（AppDomain），CLR需要保证没有线程运行在这个应用程序域中。为了实现这点，所有托管线程都被枚举，而任何堆栈上有属于被卸载应用程序域的帧的线程都被“中断”。一个ThreadAbortException异常被注入正在运行的线程，并导致线程向上展开（一直运行拆除代码）直到没有运行在这个应用程序域当中的堆栈帧，而ThreadAbortException也被转换成一个AppDomainUnloaded异常。

ThreadAbortException是一个很特别的异常。其也许会被用户代码捕捉到，但是CLR确保其在用户的异常处理代码之后再次被抛出。因此ThreadAbortException有时被称作“无法被捕捉”的，尽管严格来说不是这样的。

ThreadAbortException通常通过在托管线程上设置一个标志位标志其“正在终止”来抛出的。CLR很多地方都会检查这个标志位（特别要注意的，每次从p/invoke返回），并且经常有设置这个标志位的目的就是为了让线程及时终止的情形。

然而，比如说，线程正在运行一个长时间的托管循环，那么它可能根本不会检查这个标志位。为了让这样的线程快速终止，线程就被“劫持”并强制抛出ThreadAbortException异常。劫持过程跟GC悬停很类似，只是线程跳转过去的代码块抛出ThreadAbortException，而不是等待GC运行完毕。

这种劫持意味着ThreadAbortException可能在任意位置发生。这样使得托管代码很难正确处理ThreadAbortException异常。因此除了在卸载应用程序域的时候使用这种机制以外 － 保证由ThreadAbort损坏的状态都跟应用程序域一起被清理，在其他地方使用它都不是很明智的选择。