BP神经网络(反向传播算法原理、推导过程、计算步骤)

BP神经网络

• 1、反向传播算法的原理
• 2、反向传播算法参数学习的推导
• 3、反向传播算法参数更新案例
• • 3.1 反向传播的具体计算步骤
  • • 3.1.1 计算输出层的误差
    • 3.1.2 计算隐藏层误差
    • 3.1.3 根据神经元误差，更新神经元间偏置和神经元间的连接权重。
    • 3.1.4 进一步后向传播
• 4、实战：神经网络分类器

1、反向传播算法的原理

  反向传播算法的核心思想是将输出误差以某种形式通过隐藏层向输入层逐层反转，如下图所示。

  反向传播算法在整个神经网络训练过程中发挥着重要的作用，它调整神经元之间的参数来学习样本中的规则，事实上权重存储了数据中存在的特征。在训练过程中，前向传播和后向传播相辅相成，如下图所示。