一、介绍

一个5*5的卷积核可以被连续的2个3*3卷积核代替,每个卷积核都经过激活。

1个5*5的卷积核,也可以被2个连续的1*5和5*1卷积核代替。

如图,中间的图用2个3*3的卷积核代替了5*5的卷积核。右边的图引入了1*n和n*1的卷积核

 

二、作用

1.作者说,在网络的前期使用这种分解,效果并不好。对于中等大小的特征图,边长在12-20之间,效果比较好。

2.通过卷积核分解,减少了参数量。例如,1个5*5的卷积核有25个参数,而2个3*3的卷积核只有18个参数,1个1*5和5*1的卷积核,只有10个参数。

3.引入了2次非线性,实验证明会提升效果。