4、网络的算子(P17、P18、P19、P20、P21、P22、P23、P24、P25、P26、P27、P28、P29)

1、卷积

 2、池化

 池化是缩小高、长方向上的空间的运算。比如，如图所示，进行将 2 × 2的区域集约成1个元素的处理，缩小空间大小。

最大池化

除了Max池化之外，还有Average池化等。相对于Max池化是从目标区域中取出最大值，Average池化则是计算目标区域的平均值。

 3、全连接层

https://mp.weixin.qq.com/s/8l53lI-cZ1bKC4uQybND6Q

4、激活函数

举例来说，假设一个神经元的输出是线性函数的结果，那么不论多少层神经元叠加在一起，其总体效果仍然只是一个线性函数。激活函数的作用是将这种线性变换转化为非线性，使神经网络能够更好地学习和表示复杂的数据模式。

5、归一化

通过归一化，你可以将所有这些特征转化为相同的尺度，比如将它们都缩放到0到1之间。这样，模型就能够更公平地考虑每个特征，而不会被它们的范围所左右。这就像将不同大小的鞋子都缩放成相同的标准鞋码，这样它们更容易比较和使用。

6、softmax