CNN学习笔记：卷积神经网络

CNN学习笔记：卷积神经网络

卷积神经网络

　　卷积神经网络是一种层次模型，其输入是原始数据，如RGB图像、音频等。卷积神经网络通过卷积（convolution）操作、汇合（pooling）操作和非线性激活函数的映射等一系列操作的层层堆叠，将高层语义信息逐层由原始信息中抽取出来，逐层抽象。

基本结构

　　卷积神经网络的基本结构通常由三部分组成：

• 输入层：数据输入
• 多个卷积层和池化层（也称下采样层、采样）
  • 卷积层：进行特征提取。
  • 池化层：减少参数规模，降低计算复杂度。　　
• 全连接层和输出层
  • 全连接层：实现图片分类
  • 输出层：输出识别结果

　　

网络训练过程

　　深度卷积神经网络的学习过程就是对卷积神经网络的训练过程，有计算信号的正向传播和误差的反向传播两个过程组成。

正向传播

　　正向传播是指从输入层到输出层的信息传播过程，该过程的基本操作包括：

• 从输入层到卷积层或从池化层到卷积层的卷积操作
• 从卷积层到池化层的池化操作
• 全连接层的分类操作

反向传播

　　卷积神经网络的反向传播涉及两个基本问题，误差的反向传播和参数的反向调整。

　　前者与当前网络层的类型有关，即卷积层、池化层、全连接层的误差反向传播方法不同；后者一般通过梯度计算来实现。

　　反向传播算法（Back-Propagation algorithm）将误差或损失由最后一层逐层向前反馈，更新每层参数，并在更新参数后再次前馈，如此反复，知道网络模型手链，从而达到模型训练的目的。