BP网络-机器学习

一、BP网路特点

BP算法是一种最有效的多层神经网络学习方法，其主要特点是信号前向传递，而误差后向传播，通过不断调节网络权重值，使得网络的最终输出与期望输出尽可能接近，以达到训练的目的。实际就是，通过最优化各层神经元的输入权值以及偏置，使得神经网络的输出尽可能地接近期望输出，以达到训练（或者学习）的目的。

BP网络和传统神经网络一样，也是包含三层：输入、输出和多个隐藏层；（由于画图太慢，这里就省略了。。。。就是自己懒）。

通常在多层神经网络中采用非线性激活函数，而不是用线性激活函数，因为采用基于线性激活函数的多层神经网络本质上还是多个线性函数的叠加，其结果仍然为一个线性函数。

二、激活函数

BP神经网络通常使用两种激活函数：

1：sigmod函数（logistics函数）

           

2：双曲正切函数

          

三、BP算法过程描述

四、推导过程

详细过程可参考机器学习西瓜书

 

自己理解：找最优的权重和偏执，使得真实值和预测值误差越小。（可能不对，暂时这么理解。。。。。。有错误请指出，再修正。）