BP网络

 

一. 网络结构

 经典的BP网络，其具体结构如下：

   

 请特别注意上面这个图的一些符号说明如下：

 

 

二.  学习算法

 

     1. 信号的前向传递过程

          

              请特别注意上述公式中的下标，这里，权值矩阵包含了神经元节点本身的偏置，所以权值矩阵多了一列。

 

   2.   误差反向传导过程

         

         

 

 

 

 

 

 

 

三.  小结

     

           信号的前向传递和误差反向传递过程都可以用递归公式描述。其实，就几个公式而已，把相关的几个重要公式再次总结如下：