指令级并行及其开发—硬件方法

指令级并行（ILP）：指指令之间存在的一种并行性，利用它，计算机可以并行执行两条或两条以上的指令。
开发ILP的途径有两种
- 资源重复，重复设置多个处理部件，让它们同时执行相邻或相近的多条指令；
- 采用流水线技术，使指令重叠并行执行。
本部分研究：如何利用各种技术来开发更多的指令级并行（硬件的方法）

指令级并行的概念

开发ILP的方法可以分为两大类

主要基于硬件的动态开发方法
基于软件的静态开发方法

流水线处理机的实际CPI

理想流水线的CPI加上各类停顿的时钟周期数：

\(CPI_{流水线} = CPI_{理想} + {停顿}_{结构冲突}+{停顿}_{数据冲突} + {停顿}_{控制冲突}\)
理想CPI是衡量流水线最高性能的一个指标
IPC：每个时钟周期完成的指令条数

基本程序块

定义：一串连续的代码除了入口和出口以外，没有其他的分支指令和转入点。
程序平均每\(4 \sim 7\)条指令就会有一个分支。

循环级并行：使一个循环中的不同循环体并行执行。

开发循环的不同迭代之间存在的并行性（最常见、最基本）
是指令级并行研究的重点之一
例如，考虑下述语句：
```
for(i = 1 ; i <= 500 ; i = i + 1)
	a[i] = a[i] + s;
```
- 每一次循环都可以与其它的循环重叠并行执行
- 在每一次循环的内部，却没有任何的并行性。

最基本的开发循环级并行的技术

循环展开技术
采用向量指令和向量数据表示

指令的动态调度

静态调度
- 依靠编译器对代码进行静态调度，以减少相关和冲突。
- 它不是在程序执行的过程中，而是在编译期间进行代码调度和优化。
- 通过把相关的指令拉开距离来减少可能产生的停顿。
动态调度
- 在程序的执行过程中，依靠专门硬件对代码进行调度，减少数据相关导致的停顿。
- 优点：能够处理一些在编译时情况不明的相关（比如涉及到存储器访问的相关），并简化了编译器；能够使本来是面向某流水线优化编译的代码在其它的流水线（动态调度）上也能高效的执行。
- 缺点：以硬件复杂性的显著增加为代价

动态调度的基本思想

到目前为止我们所使用流水线的最大的局限性：

指令是按序流出和按序执行的
考虑下面一段代码：
```
DIV.D F4, F0, F2
ADD.D F10, F4, F6
SUB.D F12, F6, F14
```
ADD.D指令与DIV.D指令关于F4相关，导致流水线停顿；SUB.D指令与流水线中的任何指令都没有关系，但也因此受阻。

在前面的基本流水线中，一旦一条指令受阻，其后的指令都将停顿。
为了能使上述指令序列中的SUB.D指令能继续执行下去，必须把指令流出的工作拆分为两步：
- 检测结构冲突
- 等待数据冲突消失
只要检测到没有结构冲突，就可以让指令流出。并且流出后的指令一旦其操作数就绪就可以立即执行。

乱序执行

指令的执行顺序与程序顺序不相同
指令的完成也是乱序完成的，即指令的完成顺序与程序顺序不相同。

为了支持乱序执行，我们将5段流水线的译码阶段再分为两个阶段：

流出（IS）：指令译码，检查是否存在结构冲突。
读操作数（RO）：等待数据冲突消失，然后读操作数。

在前述5段流水线中，是不会发生WRA冲突和WAW冲突的，但乱序执行就使得它们可能发生了。

考虑下面的代码：

DIV.D F10, F0 , F2
ADD.D F10, F4 , F6
SUB.D F6, F8 , F14

可以通过使用寄存器重命名来消除。

动态调度的流水线支持多条指令同时处于执行当中。

要求：具有多个功能部件或者功能部件流水化或者二者兼有。
我们假设具有多个功能部件。

指令乱序完成带来的最大问题：异常处理比较复杂

动态调度的处理机要保持正确的异常行为

对于一条会产生异常的指令来说，只有当处理机确切地知道该指令将被执行时，才允许它产生异常。
即使保持了正确的异常行为，动态调度处理机仍可能发生不精确异常。
不精确异常：当执行指令i导致发生异常时，处理机的现场（状态）与严格按程序顺序执行时指令i的现场不同。
- 发送不精确异常的原因：因为当发送异常（设为指令i）时，流水线可能已经执行完按程序顺序是位于指令i之后的指令；流水线可能还没完成按程序顺序是指令i之前的指令。
- 不精确异常使得在异常处理后难以接着继续执行程序。
精确异常：如果发生异常时，处理机的现场跟严格按程序顺序执行时指令i的现场相同。

记分牌算法和Tomasulo算法是两种比较典型的动态调度算法。

记分牌动态调度算法

基本思想

CDC 6600计算机最早采用此功能
- 该机器用一个称为记分牌的硬件实现了对指令的动态调度。
- 该硬件中维护着3张表，分别用于记录指令的执行状态、功能部件状态、寄存器状态以及数据相关关系等。
- 它把前述5段流水线中的译码段ID分解成两个段，流出和读操作数，以避免当某条指令在ID段被停顿时挡住后面无关指令的流动。
记分牌的目标：在没有结构冲突时，尽可能早地执行没有数据冲突的指令，实现每个时钟周期执行一条指令。
要发挥指令乱序执行的好处，必须有多条指令同时处于执行阶段。
- CDC 6600具有16个独立的功能部件：4个浮点部件；5个访问部件；7个整数操作部件。
假设：所考虑的处理器有2个乘法器、1个加法器、1个除法部件和1个整数部件。整数部件用来处理所有的存储器访问、分支处理和整数操作。
采用了记分牌的MIPS处理器的基本结构：每条指令都要经过记分牌，记分牌负责相关检测并控制指令的流出和执行。
每条指令的执行过程分为4段（主要考虑浮点操作）
- 流出：如果当前流出指令所需的功能部件空闲并且所有其他正在执行的指令的目的寄存器与该指令的不同，记分牌就向功能部件流出该指令，并修改记分牌内部的记录表。解决了WAW冲突。
- 读操作数：记分牌检测源操作数的可用性，如果数据可用，它就通知功能部件从寄存器中读出源操作数并开始执行。动态地解决了RAW冲突，并导致指令可能乱序开始执行。
- 执行：取到操作数后，功能部件开始执行。当产生出结果后，就通知记分牌它已经完成执行。在浮点流水线中，这一段可能要占用多个时钟周期。
- 写结果：记分牌一旦知道执行部件完成了执行，就检测是否存在WAR冲突。如果不存在或者原有的WAR冲突已消失，记分牌就通知功能部件把结果写入目的寄存器，并释放该指令所使用的所有资源。
如果检测到WAR冲突，就不允许该指令将结果写到目的寄存器。这发生在以下情况：
- 前面的某条指令（按顺序流出）还没有读取操作数；而且其中某个源操作数寄存器与本指令的目的寄存器相同。在这种情况下，记分牌必须等待，直到该冲突消失。
记分牌中记录的信息由3部分构成
- 指令状态表：记录正在执行的各条指令已经进入到了那一阶段。
- 功能部件状态表：记录各个功能部件的状态。每个功能部件有一项，每一项由以下9个字段组成。
  - Busy：忙标志，指出功能部件是否忙。初始值为no。
  - Op：该功能部件正在执行或将要执行的操作。
  - Fi：目的寄存器编号。
  - Fj , Fk：源寄存器编号。
  - Qj , Qk：指出向源寄存器Fj , Fk写数据的功能部件。
  - Rj , Rk：标志位，为yes表示Fj , Fk中的操作数继续且还未被取走。否则就被设置为no。
- 结果寄存器状态表Result：每个寄存器在该表中有一项，用于指出那个功能部件(编号)将把结果写入该寄存器。
  - 如果当前正在运行的指令都不以它为目的寄存器，则其相应值置为no。
  - Result各项的初值为no。

具体算法

约定：
- FU：表示当前指令所要用的功能部件
- D：目的寄存器的名称
- S1,S2：源操作数寄存器的名称
- Op：要进行的操作
- Fj[FU]：功能部件FU的Fj字段（其他字段依此类推）
- Result[D]：结果寄存器状态表中与寄存器D相对应的内容。其中存放的是将把结果写入寄存器D的功能部件的名称。

指令流出

#进入条件
not Busy[Fu] & not Busy Result[D] #功能部件空闲且没有写后写冲突
#记分牌内容修改
Busy[Fu] ← yes # 把当前指令的相关信息填入功能部件状态表。功能部件状态表中各字段的含义见前面。
Op[FU] ← Op # 记录操作码
Fi[FU] ← D #记录目的寄存器编号
Fj[FU] ← S1 # 记录第一个源寄存器编号
Fk[FU] ← S2       # 记录第二个源寄存器编号。
Qj[FU] ← Result[S1]	# 记录将产生第一个源操作数的部件。
Qk[FU]←Result[S2]	#记录将产生第二个源操作数的部件。
Rj[FU]←not Qj[FU]	#置第一个源操作数是否可用的标志。如果Qj[FU]为“no”，就表示没有操作部件要写S1，数据可用。置Rj[FU]为“yes”。否则置Rj[FU]为“no”。
Rk[FU]←not Qk[FU]#置第二个源操作数是否可用的标志。
Result[D]←FU #D是当前指令的目的寄存器。功能部件FU将把结果写入D。

读操作数

#进入条件：
Rj[FU] & Rk[FU]# 两个源操作数都已就绪。
#计分牌内容修改：
Rj[FU]←no	   # 已经读走了就绪的第一个源操作数。
Rk[FU]←no     # 已经读走了就绪的第二个源操作数。
Qj[FU]←0	  # 不再等待其他FU的计算结果。
Qk[FU]←0

执行

结束条件：功能部件操作结束。

写结果

#进入条件：
\forall f((Fj[f] \neq Fi[FU] or Rj[f]=no)
& (Fk[f] \neq Fi[FU] or Rk[f]=no))；# 不存在WAR冲突。
#计分牌内容修改:
\forall f(if Qj[f]=FU then Rj[f]←yes)；	# 如果有指令在等待该结果（作为第一源操作数），则将其Rj置为“yes”，表示数据可用。
\forall f(if Qk[f] = FU then Rk[f]←yes)；	# 如果有指令在,等待该结果（作为第二源操作数），则将其Rk置为“yes”，表示数据可用。
Result(Fi[FU])←0；	# 释放目的寄存器Fi[FU]。
Busy[FU]=no；	# 释放功能部件FU。

记分牌的性能受限于以下几个方面：

程序代码中可开发的并行性，即是否存在可以并行执行的不相关的指令。
记分牌的容量：记分牌的容量决定了流水线能在多大范围内寻找不相关指令。流水线中可以同时容纳的指令数量称为指令窗口。
功能部件的数目和种类：功能部件的总数决定了结构冲突的严重程度。
反相关和输出相关：它们引起记分牌中WAR和WAW冲突。

Tomasulo算法

基本思想

记录和检测指令相关，操作数一旦就绪就立即执行，把发生RAW冲突的可能性减少到最小；
通过寄存器换名来消除WAR冲突和WAW冲突。
基于Tomasulo算法的MIPS处理器浮点部件的基本结构
保留站：每个保留站中存一条已经流出并等待到本功能部件执行的指令（相关信息）。包括：操作码、操作数以及用于检测和解决冲突的信息。
- 在一条指令流出到保留站的时候，如果该指令的源操作数已经在寄存器中就绪，则将之取到该保留站中。
- 如果操作数还没有计算出来，则在该保留站中记录将产生这个操作数的保留站的标识。
- 浮点加法器有3个保留站：ADD1、ADD2、ADD3
- 浮点乘法器有2个保留站：MULT1、MULT2
- 每个保留站都有一个标识符字段，唯一地标识了该保留站。
公共数据总线CDB 一条重要的数据通路
- 所有功能部件的计算结果都是送到CDB上，由它把这些结果直接送到各个需要该结果的地方。
- 在具有多个执行部件且采用多流出（即每个时钟周期流出多条指令）的流水线中，需要采用多条CDB。
load缓冲器和store缓冲器
- 存放读/写存储器的数据或地址
- load缓冲器的作用有3个：存放用于计算有效地址的分量；记录正在进行的load访存，等待存储器的响应；保存已经完成了的load的结果（即从存储器取出来的数据），等待CDB传输。
- store缓冲器的作用有3个：存放用于计算有效地址的分量；保存正在进行的store访存的目标地址，该store正在等待存储数据的到达；保存该store的地址和数据，直到存储部件接收。
浮点寄存器FP：共有16和浮点寄存器F0 , F2 , F4 , ... , F30；它们通过一对总线连接到功能部件，并通过CDB连接到store缓冲器。
指令队列：指令部件送来的指令放入指令队列；指令队列中的指令按先进先出的顺序流出。
运算部件：浮点加法器完成加法和减法操作；浮点乘法器完成乘法和除法操作。

在Tomasulo算法中，寄存器换名是通过保留站和流出逻辑来共同完成的。

当指令流出时，如果其操作数还没有计算出来，则该指令中相对应的寄存器号换名为将产生这个操作数的保留站的标识。
指令流出到保留站后，其操作数寄存器号或者换成了数据本身（如果该数据已经就绪）或者换成了保留站的标识，不再与寄存器有关系。

Tomasulo算法有以下两个特点：

冲突检测和指令执行控制是分布的：每个功能部件的保留站中的信息决定了什么时候指令可以在该功能部件开始执行。
计算结果通过CDB直接从产生它的保留站传送到所有需要它的功能部件，而不用经过寄存器。

指令执行的步骤：

使用Tomasulo算法的流水线需3段：

流出：从指令队列的头部取一条指令。如果该指令的操作所要求的保留站有空闲的，就把该指令送到该保留站（设为r）；如果其操作数在寄存器中已经就绪，就将这些操作数送入保留站r；如果其操作数还没有就绪，就把将产生该操作数的保留站的标识送入保留站r；一旦被记录的保留站完成计算，它将直接把数据送给保留站r。寄存器换名对操作数进行缓冲，消除WAR冲突。完成对目标寄存器的预约工作（消除了WAW冲突）；如果没有空闲的保留站，指令就不能流出（发生了结构冲突）。
执行：当两个操作数都就绪后，本保留站就用相应的功能部件开始执行指令规定的操作；load和store指令的执行需要两个步骤：计算有效地址和把有效地址放入load或store缓冲器。
写结果：功能部件计算完毕后，就将计算结果放到CDB上，所有等待该计算结果的寄存器和保留站（包括store缓冲器）都同时从CDB上获得所需要的数据。

每个保留站有以下7个字段：

Op：要对源操作数进行的操作
Qj , Qk：将产生源操作数的保留站；等于0表示操作数已经就绪且在Vj或Vk中，或者不需要操作数。
Vj , Vk：操作数的值，对于每一个操作数来说，V或Q字段只有一个有效；对于load来说Vk字段用于保存偏移量。
Busy：为yes表示本保留站或缓冲单元忙。
A：仅load和store缓冲器有该字段。开始是存放指令中国的立即数字段，地址计算后存放有效地址。
Qi：寄存器状态表；每个寄存器在该表中有对应的一项，用于存放将把结果写入该寄存器的保留站的站号；为0表示当前没有正在执行的指令要写入该寄存器，也即该寄存器中的内容就绪。

动态分支预测技术

所开发的ILP越多，控制相关的制约就越大，分支预测就要有更高的准确度。

本部分中介绍的方法对于每个时钟周期流出多条指令（若为n条，就称为n流出）的处理机来说非常重要。因为：在n-流出的处理机中，遇到分支指令的可能性增加了n倍。要给处理器连续提供指令，就需要准确地预测分支。

动态分支预测：在程序运行时，根据分支指令过去的表现来预测其将来的行为。如果分支行为发生了变化，预测结果也跟着改变。有更好的预测准确度和适应性。

分支预测的有效性取决于：

预测的准确性
预测正确和不正确两种情况下的分支开销

决定分支开销的因素：流水线的结构；预测的方法；预测错误时的恢复策略等。
采用动态分支预测技术的目的：预测分支是否成功；尽快找到分支目标地址（或指令）避免控制相关造成流水线停顿。
需要解决的关键问题
- 如何记录分支的历史信息，要记录那些信息？
- 如何根据这些信息来预测分支的去向，甚至提前取出分支目标处的指令？
在预测错误时，要作废已经预期和分析的指令，恢复现场，并从另一条分支路径重新取指令。

采用分支历史表BHT

分支历史表BHT：最简单的动态分支预测方法；用BHT来记录分支指令最近一次或几次的执行情况（成功还是失败）并据此进行预测。

只有1个预测位的分支预测：记录分支指令最近一次的历史，BHT中只需要1位二进制。

采用两位二进制来记录历史

提高预测的准确度
研究结果表明：两位分支预测的性能与n位分支预测的性能差不多
两位分支预测的状态转换如下所示：
两位分支预测中的操作有两个步骤
- 分支预测：当分支指令到达译码阶段ID时，根据从BHT读出的信息进行分支预测；若预测正确，就继续处理后续的指令，刘淑娴没有断流；否则就要作废已经预取和分析的指令，恢复现场，并从另一条分支路径重新取指令。
- 状态修改

BHT方法只在以下情况下才有用：

判定分支是否成功所需的时间大于确定分支目标地址所需的时间。
前述5段经典流水线：由于判定分支是否成功和计算分支目标地址都是在ID段完成，所以BHT方法不会给该流水线带来好处。

研究结果表明：对于SPEC89测试程序来说，具有大小为4KB的BHT的预测准确率为82%-99%。一般来说，采用4KB的BHT就可以了。

BHT可以跟分支指令一起存放在指令Cache中，也可以用一块专门的硬件来实现。

采用分支目标缓冲器`BTB`

目标：将分支的开销降为0

方法：分支目标缓冲

将分支成功的分支指令的地址和它的分支目标地址都放到一个缓冲区中保存起来，缓冲区以分支指令的地址作为标识。
这个缓冲区就是分支目标缓冲器，简记为BTB，或者分支目标cache。

BTB的结构：

看成是用专门的硬件实现的一张表格
表格中的每一项至少有两个字段：执行过的成功分支指令的地址作为该表的匹配标识；预测的分支目标地址。

采用BTB后，在流水线各个阶段所进行的相关操作：

采用BTB后，各种可能情况下的延迟

指令在`BTB`中？	预测	实际情况	延迟周期
是	成功	成功	0
是	成功	不成功	2
不是		成功	2
不是		不成功	0

BTB的另一种形式

在分支目标缓冲器中增设一个至少是两位的分支历史表字段
更进一步，在表中对于每条分支指令都存放若干条分支目标处的指令，就形成了分支目标指令缓冲器。

基于硬件的前瞻执行

前瞻执行的基本思想：对分支指令的结果进行猜测，并假设这个猜测总是对的，然后按这个猜测结果继续取、流出和执行后续的指令。只是执行指令的结果不是写回到寄存器或存储器，而是写入一个称为再定序缓冲器ROB（ReOrder Buffer）中。等到相应的指令得到“确认”（commit）（即确实是应该执行的）之后，
才将结果写入寄存器或存储器。

基于硬件的前瞻执行结合了3种思想：

动态分支预测。用来选择后续执行的指令。
在控制相关的结果尚未出来之前，前瞻执行后续指令。
用动态调度对基本块的各种组合进行跨基本块的调度。

对Tomasulo算法加以扩充，就可以支持前瞻执行

把Tomasulo算法的写结果和指令完成加以区分，分成两个不同的段：写结果、指令确认。

写结果段：把前瞻执行的结果写到ROB中；通过CDB在指令之间传送结果，供需要用到这些结果的指令使用。
指令确认段：在分支指令的结果出来后，对相应指令的前瞻执行给予确认。如果前面所做的猜想是对的，把在ROB中的结果写到寄存器或存储器；如果发现前面对分支结果的猜测是错误的，那就不予以确认，并从那条分支指令的另一条路径开始重新执行。

实现前瞻的关键思想：允许指令乱序执行，但必须顺序确认；在指令被确认之前，不允许它进行不可恢复的操作。

支持前瞻执行的浮点部件的结构：

ROB中的每一项由以下4个字段组成：
- 指令类型：指出该指令是分支指令、store指令或寄存器操作指令。
- 目标地址：给出指令执行结果应写入的目标寄存器号或存储单元的地址。
- 数据值字段：用来保存指令前瞻执行的结果，直到指令得到确认。
- 就绪字段：指出指令是否已经完成执行并且数据已就绪。
Tomasulo算法中保留站的换名功能是由ROB来完成的。

采用前瞻执行机制后，指令的执行步骤：

流出：从浮点指令队列的头部取一条指令；如果有空闲的保留站(假设为r)且有空闲的ROB项(设为b)，就流出该指令，并把相应的信息放入保留站r和ROB项b；如果保留站或ROB全满，便停止流出指令，直到它们都有空闲的项。
执行：如果有操作数尚未就绪，就等待，并不断地检测CDB；当两个操作数都已在保留站中就绪后，就可以执行指令的操作。
写结果：当结果产生后，将该结果连同本指令在流出段所分配到的ROB项的编号放在CDB上，经CDB写到ROB以及所有等待该结果的保留站；释放产生该结果的保留站；store指令在本阶段完成，其操作为：如果要写入存储器的数据已经就绪，就把该数据写入分配给该store指令的ROB项。否则，就监测CDB，直到那个数据在CDB上播送出来，才将之写入分配给该store指令的ROB项
确认：对分支指令、store指令以及其它指令的处理不同
- 其它指令（除分支指令和store指令）：当该指令到达ROB队列的头部而且其结果已经就绪时，就把该结果写入该指令的目的寄存器，并从ROB中删除该指令。
- store指令：处理与上面类似，只是它把结果写入存储器。
- 分支指令：当预测错误的分支指令到达ROB队列的头部时，清空ROB，并从分支指令的另一个分支重新开始执行。（错误的前瞻执行）当预测正确的分支指令到达ROB队列的头部时，该指令执行完毕。

前瞻执行

通过ROB实现了指令的顺序完成
能够实现精确异常
很容易地推广到整数寄存器和整数功能单元上。
主要缺点：所需的硬件太复杂

多指令流出技术

在每个时钟周期内流出多条指令CPI < 1。
单流出和多流出处理机执行指令的时空图对比：

多流出处理机有两种基本风格：

超标量：
- 在每个时钟周期流出的指令条数不固定，依代码的具体情况而定。（存在一个上限）
- 设这个上限为n，就称该处理机为n-流出。
- 可以通过编译器进行静态调度，也可以基于Tomasulo算法进行动态调度。
超长指令字VLIW：
- 在每个时钟周期流出的指令条数是固定的，这些指令构成一条长指令或者一个指令包。
- 指令包中，指令之间的并行性是通过指令显式地表示出来的。
- 指令调度是由编译器静态完成的。

超标量处理机与VLIW处理机相比有两个优点：

超标量结构对程序员是透明的，处理机能自己检测下一条指令能否流出，不需要由编译器或专门的变换程序对程序中的指令进行重新排列。
即使是没有经过编译器针对超标量结构进行调度优化的代码或是旧的编译器生成的代码也可以运行，并且运行的效果不会很好。要想达到很好的效果，方法之一为使用动态超标量调度技术。

基于静态调度的多流出技术

在典型的超标量处理器中，每个时钟周期可流出1到8条指令。
指令按序流出，在流出时进行冲突检测。

举例：一个4-流出的静态调度标量处理机

在取指令阶段，流水线将从取指令部件收到\(1 \sim 4\)条指令（称为流出包）。在一个时钟周期内，这些指令有可能是全部都能流出，也可能是只有一部分能流出。
流出部件检测结构出图或者数据冲突。一般分两阶段实现：
- 第一阶段：进行流出包内的冲突检测，选出初步判定可以流出的指令。
- 第二阶段：检测所选出的指令与正在执行的指令是否有冲突。

MIPS处理机是怎么实现超标量的？

假设每个时钟周期流出两条指令：1条整数型指令+1条浮点操作指令；其中，把load指令、store指令、分支指令归类为整数型指令。

要求同时取两条指令（64位），译码两条指令（64位）。

对指令的处理包括以下步骤：

从cache中取两条指令；
确定那几条指令可以流出
把他们发送到相应的功能部件。

双流出超标量流水线中指令执行的时空图

假设：所有的浮点指令都是加法指令，其执行时间为两个时钟周期
为简单起见，图中总是把整数指令放在浮点指令的前面。

采用1条整数型指令+1条浮点指令并行流出的方式，需要增加的硬件很少。

浮点load或浮点store指令将使用整数部件，会增加对浮点寄存器的访问冲突。可以增设一个浮点寄存器的读写端口。

由于流水线中的指令多了一倍，定向路径也要增加。

限制超标量流水线的性能发挥的障碍：

load指令：load后续3条指令都不能使用其结构，否则就会引起停顿。
分支延迟：如果分支指令是流出包中的第一条指令，则其延迟是3个时钟周期；否则就是流出包中的第二条指令，其延迟就是两个时钟周期。

基于动态调度的多流出技术

扩展Tomasulo算法：支持双流出超标量流水线，每个时钟周期流出两条指令；一条是整数指令，另一条是浮点指令。

采用一种比较简单的方法：

指令按顺序流向保留站，否则会破坏程序语义。
将整数所用的表结构与浮点用的表结构分离开，分别进行处理，这样就可以同时地流出一条浮点指令和一条整数指令到各自的保留站。

有两种不同的方法实现多流出，关键在于对保留站的分配和对流水线控制表格的修改：

在半个时钟周期里完成流出步骤，这样一个时钟周期就能处理两条指令。
设计一次能同时处理两条指令的逻辑电路。

现代的流出4条或4条以上指令的超标量处理机经常是两种方法都采用。

超长指令字技术

能把并行执行的多条指令组装成一条很长的指令；

设计多个功能部件

指令字被分割成一些字段，每个字段称为一个操作槽，直接独立地控制一个功能部件。

在VLIW处理机中，在指令流出时不需要进行复杂的冲突检测，而是依靠编译器全部安排好了。

VLIW存在的一些问题：

程序代码长度增加了：提高并行性而进行的大量的循环展开，指令字中的操作槽并非总能填满。

解决：采用指令共享立即数字段的方法，或者采用指令压缩存储调入cache或译码时展开的方法。
采用了锁步机制：任何一个操作部件出现停顿时，整个处理机都要停顿。
机器代码的不兼容性。

多流出处理器受到的限制

程序所固有的指令级并行性；
硬件实现上的困难；
超标量和超长指令字处理器固有的技术限制。

超流水线处理机

将每个流水段进一步细分，这样在一个时钟周期内能够分时流出多条指令。这种处理机称为超流水线处理机。
对于一台每个时钟周期能流出n条指令的超流水计算机来说，这n条指令不是同时流出的，而是每隔\(\frac{1}{n}\)个时钟周期流出一条指令，实际上该超流水线计算机的流水线周期为\(\frac{1}{n}\)个时钟周期。
一台每个时钟周期分时流出两条指令的超流水线计算机的时空图。
在有的资料上，把指令流水线级数为8或8以上的流水线处理机称为超流水线处理机。

posted @ 2022-04-21 15:57 cherish-lgb 阅读(1083) 评论(0) 编辑收藏举报

会员力量，点亮园子希望

刷新页面返回顶部

風月无关我

指令级并行及其开发—硬件方法

指令级并行的概念

相关与指令级并行

指令的动态调度

动态调度的基本思想

记分牌动态调度算法

Tomasulo算法

动态分支预测技术

采用分支历史表BHT

采用分支目标缓冲器`BTB`

基于硬件的前瞻执行

多指令流出技术

基于静态调度的多流出技术

基于动态调度的多流出技术

超长指令字技术

多流出处理器受到的限制

超流水线处理机

公告

風月无关我

指令级并行及其开发—硬件方法

指令级并行的概念

相关与指令级并行

指令的动态调度

动态调度的基本思想

记分牌动态调度算法

Tomasulo算法

动态分支预测技术

采用分支历史表BHT

采用分支目标缓冲器BTB

基于硬件的前瞻执行

多指令流出技术

基于静态调度的多流出技术

基于动态调度的多流出技术

超长指令字技术

多流出处理器受到的限制

超流水线处理机

公告

采用分支目标缓冲器`BTB`