23、fc全连接层、conv卷积层、pooling层、激活函数的作用
fc全连接层:
1.起到分类器的作用。对前层的特征进行一个加权和,(卷积层是将数据输入映射到隐层特征空间)将特征空间通过线性变换映射到样本标记空间(也就是label)
2.1*1卷积等价于fc;跟原feature map一样大小的卷积也等价于fc,也就是输入是一个5*3*3的feature map,用一个3x3x5的卷积去计算就是fc
3.全连接层参数冗余,用global average pooling替代。在feature map每个channel上使用gap,然后得到channel个结果,分别对应相应的类别的confidence score,最后输入给softmax。这样做减少参数,防止过拟合。
4.迁移学习中,目标域和源域差别较大,不用fc的网络比用fc的网络效果差
5.卷积层本来就是全连接的一种简化形式:不全连接+参数共享,按照局部视野的启发,把局部之外的弱影响直接抹为零影响,同时还保留了空间位置信息。这样大大减少了参数并且使得训练变得可控。
6.fc利用的是上一层所有输入来计算,抛弃了卷积层不同位置的权值共享。对它来说,输入的不同位置出现同一个pattern是不等价的,因此不适合用于输出对于每个位置寻找类似pattern的task,比如segmentation、edge detection以及end-to-end的object detection等等,而比较适合用于classification。
特征层提取一个物体的各个部分,不同特征,然后通过fc整合到一起
![](https://images2018.cnblogs.com/blog/1070872/201808/1070872-20180809204744718-2010050666.png)
pooling:
1.提取特征
2.减少参数
激活函数:增加网络的非线性表达能力
参考文献
[1] https://www.cnblogs.com/ymjyqsx/p/9451739.html