densenet 中的shortcut connection

DenseNet 

      在FCN 网络中考虑加入skip connection，在resnet 中加入identity 映射，这些 shortcut connection等结构能够得到更好的检测效果，在denseNet 中每一层的特征图作为其他所有层的输入，因此对于 L层的网络，中间有(L(L+1))/2 个连接。

这种短连接的优点：

  • 减轻梯度消失问题，有利于训练，更快收敛，因为梯度可以直接向前传递
  • 加强了特征的传递
  • 加强了特征的重用
  • 减少参数
posted @ 2017-11-10 16:29  hahahaf  阅读(2377)  评论(0)  编辑  收藏  举报