卷积神经网络

目录

• 权重共享 or 局部连接
• 平移不变性
  • 卷积
  • 池化
  • 总结

 

---

权重共享 or 局部连接

如图，滤波器中的参数是固定不变的，按照设定好的步数移动扫面完全部位置，参数（权重）共享就是说被扫描的像素全都共享这个滤波器中的权重进行计算。

平移不变性

平移是一种几何变换，表示把一幅图像或一个空间中的每一个点在相同方向移动相同距离。比如对图像分类任务来说，图像中的目标不管被移动到图片的哪个位置，得到的结果（标签）应该是相同的，这就是卷积神经网络中的平移不变性。

卷积

卷积被定义为不同位置的特征检测器，也就意味着，无论目标出现在图像中的哪个位置，它都会检测到同样的这些特征，输出同样的响应。比如人脸被移动到了图像左下角，卷积核直到移动到左下角的位置才会检测到它的特征。

池化

比如最大池化，它返回感受野中的最大值，如果最大值被移动了，但是仍然在这个感受野中，那么池化层也仍然会输出相同的最大值。这就有点平移不变的意思了。

总结

所以这两种操作共同提供了一些平移不变性，即使图像被平移，卷积保证仍然能检测到它的特征，池化则尽可能地保持一致的表达。