【DL基础】深度可分离卷积

1. 常规卷积

 

 

2. 分组卷积

 

 

 

2. 深度可分离卷积 

Depthwise Convolution + Pointwise Convolution

2.1  Depthwise Convolution

 

 

2.2  Pointwise Convolution

 

 

Depthwise(DW)卷积与Pointwise(PW)卷积，合起来被称作Depthwise Separable Convolution(参见Google的Xception)，该结构和常规卷积操作类似，可用来提取特征，但相比于常规卷积操作，其参数量和运算成本较低。所以在一些轻量级网络中会碰到这种结构如MobileNet。

 Depthwise Convolution完成后的Feature map数量与输入层的depth相同，但是这种运算对输入层的每个channel独立进行卷积运算后就结束了，没有有效的利用不同map在相同空间位置上的信息。因此需要增加另外一步操作来将这些map进行组合生成新的Feature map，即接下来的Pointwise Convolution。

Pointwise Convolution的运算与常规卷积运算非常相似，不同之处在于卷积核的尺寸为 1×1×M，M为上一层的depth。所以这里的卷积运算会将上一步的map在深度方向上进行加权组合，生成新的Feature map。有几个Filter就有几个Feature map。

参考

1. 卷积神经网络中的Separable Convolution；

2. 深度可分离卷积_知乎；

3. Xception: Deep Learning with Depthwise Separable Convolutions, François Chollet；

4. MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications；

完