卷积网络

1.卷积运算

　　

　　卷积的第一个参数（在这个例子中，函数 x）通常叫做输入（input），第二个参数（函数 w）叫做核函数（kernel function）。

　　输出有时被称作特征映射（feature map）

2.动机

　　卷积运算通过三个重要的思想来帮助改进机器学习系统：

　　　　稀疏交互（sparseinteractions）、参数共享（parameter sharing）、等变表示（equivariant representa-tions）

3.池化

　　池化可以极大地提高网络的统计效率

　　池化函数使用某一位置的相邻输出的总体统计特征来代替网络在该位置的输出

　　最大池化（max pooling）函数 (Zhou and Chellappa, 1988) 给出相邻矩形区域内的最大值

　　平均值、L 2 范数以及基于据中心像素距离的加权平均函数

　　当输入作出少量平移时，池化能够帮助输入的表示近似不变（invariant）

4.结构化输出