1.0 多层感知机&BP传播 小记

1. 感知机与线性模型

　　单层感知机的表达式和线性分类表达式等同，可以将一个 单层感知机看作是一个线性分类器。单层感知机可以解决 与、或、非 的分类问题，但是不能解决异或分类（非线性）问题。how to solve the problem：多个线性分类器解决线性不可分问题，即：多个单层感知机组合叠加解决非线性问题、多分类问题。

2. 权重、激活、激活函数

　　神经网络中，权重为模型要训练的参数；

　　激活：神经网络中，每个神经元又称为 激活；

　　激活函数：将前一层激活和权重积的累加的 非线性函数，类似于 机器学习中 线性分类问题 将距离映射为概率的 映射函数。常见激活函数如：Sigmoid。

3. 前向传播和反向传播

　　Input层 经由 隐藏层 最后到 output层，神经元习惯称为  激活。一般 每个全连接层共用一个激活函数。