经典卷积神经网络 - ResNet
ResNet是一种残差网络,咱们可以把它理解为一个子网络,这个子网络经过堆叠可以构成一个很深的网络。
我们一直在加深神经网络,但是加深不一定只会带来好处。
残差块
- 串联一个层改变函数类,我们希望能扩大函数类
- 残差块加入快速通道来得到 f ( x ) = x + g ( x ) f(x)=x+g(x) f(x)=x+g(x)的结构
ResNet块细节
ResNet块
- 高宽减半ResNet块(步幅2)
- 后接多个高宽不变ResNet块
ResNet架构
- 类似VGG和GoogleNet的总体架构
- 但替换成了ResNet块
总结:
- 残差块使得很深的网络更加容易训练
- 残差网络对随后的深层神经网络设计产生了深远影响,无论是卷积类网络还是全连接类网络。