CPU 分支预测

　　去年在安宁庄的时候, 有个同事阐述了一个观点：php中的if else 在执行时考虑到效率的原因，不会按我们的代码的顺序一条一条去试，而是随机找出一个分支，执行，如果不对，再随机找到一个分支

　　当时由于种种原因,也没过多去想这个问题，最近查了下资料,发现里面的学问还挺大的

　 php解释器是由c编写的,是个经编译生成的二进制文件, 我们编写的PHP代码相当于这个C程序的参数,只不过这个参数是个一个的文件, 这个C程序要解析这个php文件，产生相应的opcode，再去执行opcode对应的函数，每一部操作都是由C函数来实现

查询opcode含义的利器: http://www.laruence.com/2008/11/20/640.html#ZEND_JMP_.28Opcode_42.29

<?php
if($a == 1){
    echo "a is 1";
}else if($a == 2){
    echo "a is 2";
}else{
    echo "a is x";
}

对于上面的php代码来说,最终执行的opcode是

-------------------------------------------------------------------------------------
   2     0  E >   IS_EQUAL                                         ~0      !0, 1
         1      > JMPZ                                                     ~0, ->4
   3     2    >   ECHO                                                     'a+is+1'
   4     3      > JMP                                                      ->9
         4    >   IS_EQUAL                                         ~1      !0, 2
         5      > JMPZ                                                     ~1, ->8
   5     6    >   ECHO                                                     'a+is+2'
   6     7      > JMP                                                      ->9
   7     8    >   ECHO                                                     'a+is+x'
   9     9    > > RETURN                                                   1

可以看到在执行php时, 是一条一条去执行的

1.先判断 $a 是否等于 1

2.如果不等于1,为false, 就JMPZ 到第4条命令，去比较 $a 是否等于2

如果等于1, echo "a is 1"; 然后无条件跳转 JMP 第9行 return 了

3.如果 $a 不等于2 ，即为false, 就JMPZ 到第8条命令, echo "a is x"

如果 $a 等于2，直接echo "a is 2", 然后执行 JMP 第9行 return 了

所以,php编写的程序,对C函数来说，还是要一步的一步去执行的，关于具体php的分支实现，请点击这里

　　如果这个文件被执行100次，有90次 $a=3, 那么解释器每次都要判断 $a 是否等于1和 $a 是否等于2, 尽管第三个分支是满足条件的，如果是C编写的程序, CPU会针对某种策略挑选一个分支来执行, 对应上面的分支来说,CPU会直接取出第三个分支的指令，然后执行。

从486开始,CPU开始具备流水线这个特性，指令流水线由5，6个不同功能的工作单元组成，将一个x86指令也拆分成5，6个步骤，分别送往不同的工作单元，来达到同时执行多个指令的目的，现在的CPU支持30级的流水线，也就意味着流水线上有30个工作单元,对应的X86指令也拆分成30个步骤。

注：CPU执行的是二进制数据，代码经过汇编编译后，生成一条条二进制指令

例如 int a=1; 对应的汇编是mov $1, %eax; 对应的机器码可能是00011100011

在执行文件时，根据局部性原理，想关的指令都要加载到CPU缓存中，

一般一条指令的完成分四个步骤：

1.取指令

2.翻译指令（看是赋值，还是计算,从内存什么地方取数据）

3.执行指令

4.写指令结果（要么写回内存，要么写到寄存器）

　　　　　　取指令　　翻译指令　　执行指令　　写指令结果

命令1 命令1

命令2

取指令单元取出指令1后，翻译指令单元开始翻译指令1时，取指令单元可取出指令2了

如果CPU不这么做，等到指令1完成上面四个步骤后，指令2才开始进行，那效率太低了

流水化中的单元分的更详细，更多的指令可以并行处理，但速度不见得快，因为有分支的出现，如果没有命中第一个分支，后面的指令将作废, 需要清空后面所有的指令, 然后中载命中地址的指令，再运行

在有5个分支的情况下，若采取随机挑选一个分支执行的话，每次赌该分支命中的概率只有五分之一, 于是CPU分支预测功能就出现了。

分支预测分静态和动态

静态分支预测：由编译器决定哪个分支可能被CPU命中，一般是第一个分支，即 if 后面的逻辑，而不是后面else的逻辑

动态分支预测：在CPU硬件中开辟一块缓存，专门记录每个分支最近几次的命中情况，然后做出预测，显然这种方法能及时调整策略，有更好的远詹性，但CPU压力会大些，不过还好。

　　分支地址只有在流水线指令执行阶段才能计算出来，为了避免等待，需要在译码阶段进行预测

Two-Level分支预测方法使用了两种数据结构，一种是BHR(Branch History Register)；而另一种是PHT(Pattern History Table)。其中BHR由k位组成(可理解为记录K次某个分支的执行结果)，用来记录每一条转移指令的历史状态，而PHT表含有2^k个Entry组成，而每一个Entry由两位Saturating Counter组成。BHR和PHT的关系如图3‑10所示。

假设分支预测单元在使用Two-Level分支预测方法时，设置了一个PBHT表(Per-address Branch History Table)存放不同指令所对应的BHR。在PBHT表中所有BHR的初始值为全1，而在PHT表中所有Entry的初始值值为0b11。BHR在PBHT表中的使用方法与替换机制与Cache类似。

当分支预测单元分析预测转移指令B的执行时，将首先从PBHT中获得与转移指令B对应的BHR，此时BHR为全1，因此CPU将从PHT的第11…11个Entry中获得预测结果0b11，即Strongly Taken。转移指令B执行完毕后，将实际执行结果R_c更新到BHR寄存器中，并同时更新PHT中对应的Entry。

当CPU再次预测转移指令B的执行时，仍将根据BHR索引PHT表，并从对应Entry中获得预测结果。而当指令B再次执行完毕后，将继续更新BHR和PHT表中对应的Entry。当转移指令的执行结果具有某种规律(Pattern)时，使用这种方法可以有效提高预测精度。如果转移指令B的实际执行结果为001001001….001，而且k等于4时，CPU将以0010-0100-1001这样的循环访问BHR，因此CPU将分别从PHT表中的第0010、0100和1001个Entry中获得准确的预测结果。

由以上描述可以发现，Two-Level分支预测法具有学习功能，并可以根据转移指令的历史记录产生的模式，在PHT表中查找预测结果。该算法由T.Y. Yeh and Y.N. Patt在1991年提出，并在高性能处理器中得到了大规模应用。

Two-Level分支预测法具有许多变种。目前x86处理器主要使用“Local Branch Prediction”和“Global Branch Prediction”两种算法。

在“Local Branch Prediction”算法中，每一个BHR使用不同的PHT表，Pentium II和Pentium III处理器使用这种算法。该算法的主要问题是当PBHT表的Entry数目增加时，PHT表将以指数速度增长，而且不能利用其它转移指令的历史信息进行分支预测。而在“Global Branch Prediction”算法中，所有BHR共享PHT表，Pentium M、Pentium Core和Core 2处理器使用这种算法。

在高性能处理器中，分支预测单元对一些特殊的分支指令如“Loop”和“Indirect跳转指令”设置了“Loop Prediction”和“Indirect Prediction”部件优化这两种分支指令的预测。此外分支预测单元，还设置了RSB(Return Stack Buffer)，当CPU调用一个函数时，RSB将记录该函数的返回地址，当函数返回时，将从RSB中获得返回地址，而不必从堆栈中获得返回地址，从而提高了函数返回的效率。

目前在高性能处理器中，动态分支预测的主要实现机制是CPU通过学习以往历史信息，并进行预测，因而Neural branch predictors机制被引入，并取得了较为理想的效果，本节对这种分支预测技术不做进一步说明。目前指令的动态分支预测技术较为成熟，在高性能计算机中，分支预测的成功概率在95%~98%之间，而且很难进一步提高。

参考：http://blog.sina.com.cn/s/blog_6472c4cc0100qxd2.html

http://tonysuo.blogspot.hk/2013/12/computer-architecture-5.html

http://blog.hesey.net/2013/03/branch-prediction-in-pipeline.html

http://wenku.baidu.com/view/48833667ddccda38376bafa2.html

http://blog.sina.com.cn/s/blog_5a82024e0100e5lm.html

//大话处理器

http://blog.csdn.net/muxiqingyang/article/details/6677425

http://cyukang.com/2012/07/11/branch_prediction.html

http://blog.csdn.net/wahaha_nescafe/article/details/8500094

https://www.zhihu.com/question/23973128

http://blog.sina.com.cn/s/blog_6556314c0100hamf.html

http://blog.sina.com.cn/s/blog_6556314c0100hamt.html