吴恩达Machine Learning学习笔记(四)--BP神经网络
解决复杂非线性问题
BP神经网络
模型表示
theta->weights
sigmoid->activation function
input_layer->hidden_layer->output_layer
对每一个隐藏层的操作等同于Logistic Regression。因此,通过BP神经网络可以建立比Logistic Regression更复杂的非线性假设,
且建模形式更简洁。
损失函数
其中,K是输出层的单元数(类别数)
反向传播算法(推导)
随机初始化weights
网络结构
默认:输入层+1个隐藏层+输出层
多个隐藏层时,建议每个隐藏层的单元数一致