网络结构解读之inception系列一:Network in Network
网上有很多的网络结构解读,之前也是看他人博客的介绍,但当自己看论文的时候,发现存在很多的细节和动机解读,而这部分能加深对网络结构设计的理解。因此记录下来。
为什么把NIN放入inception系列,因为inception的灵感部分来自于NIN。
Network In Netwrok
NIN动机内容不多直接上操作
contributes:
1.在卷积层后加入mlp(multilayer perceptron)结构 = 2个(1x1卷积+relu)
增加模型的表达能力(1x1卷积增加了通道间信息融合且减少了通道数降低了计算量)
2.Gap(global average pooling)代替传统的全连接
减少参数,避免过拟合,起到正则作用