cs231n spring 2017 lecture5 Convolutional Neural Networks

1. 之前课程里，一个32*32*3的图像被展成3072*1的向量，左乘大小为10*3072的权重矩阵W，可以得到一个10*1的得分，分别对应10类标签。

    在Convolution Layer里，图像保持原样，依旧是32*32*3，把它和一个5*5*3的filter进行卷积运算（filter和原图像有相同的通道数，比如这里都是3）。这里的“卷积”并不是严格按照信号处理里先把图像翻转，这里只是对应像素乘积累加，可以按照fully connected layer的写法，把5*5*3的filter展开成75*1，原图像也抠出同样大小的一块并展开成一维，然后线性运算w^Tx+b。如此运算后，最终得到28*28*1的结果（32-5+1=28），名字叫activation map。每一个filter实际代表一种特征，通过卷积查看原图的各个局部位置与这个特征的匹配程度。实际处理中会用好多个不同的filter，如果用了6个，则得到28*28*6的“新图像”。卷积是线性运算，所以之后还要再跟一个非线性的激活函数（比如ReLU）。几个卷积层之后，还会再用一个POOL（池化层：池化层的输入一般来源于上一个卷积层，主要作用是增强鲁棒性，并且减少了参数的数量，防止过拟合现象的发生）。

    卷积神经网络实际就是一系列的类似卷积层的堆叠。从底层到高层的卷积层对应的特征越来越复杂。

 

2. 上一部分的卷积过程是每次平移一个像素（stride=1），可以移动几个像素，最终输出大小是(N-F)/stride+1，这里假设图像是N*N，filter是F*F。输出大小必须是整数，如果不是的话，stride就不能取这个数。

    还有两个问题：1）每次卷积会缩小图片，对于卷积层很多的深度学习网络，图片会很快缩的非常小。2）丢失了边缘信息。为了解决这个问题，实际操作中，会在图像周边补0，这时候输出大小是(N+2*P-F)/stride+1，这里P是两边各补的0的个数。   

    总结一下：

    输入图片大小是W₁*H₁*D₁。

    Hyperparameters：1）filter的数量K，一般取2的指数个，比如32,64,128,512。

                                   2）filter的大小F，一般取1,3,5。（边长为1的filter是有意义的，因为这相当于是对每个像素的各个通道加权求和。）

                                   3）步长stride S，一般取1,2。stride有降低图片分辨率的作用，或者说降采样。

                                   4）单边补零的个数P。  

    输出图片大小是W₂*H₂*D_2：

                                   1）W₂=(W₁-F+2P)/S+1.

                                   2）H₂=(H₁-F+2P)/S+1.

                                   3）D₂=K。

    一共F*F*D₁*K个权重参数，K个bias参数。

 

3. Pooling Layer：对图片降采样。

    最常用的是Max pooling：降采样时取一个小区域里的最大值。可以这么直观理解，比如我们想在一个小区域里找某个特征，这个小区域内任何一处的值很高，都代表我们在这个小区域找到了这个特征，所以用它来表征这个区域。

    卷积过程的步长stride大于1和pooling都是为了降采样，二者并不是必须有的，根据实际问题调整架构。

    总结一下：

    输入图片大小是W₁*H₁*D₁。

    Hyperparameters：1）pooling的大小F，一般取2,3。

                                   2）步长stride S，一般取2。

    输出图片大小是W₂*H₂*D_2：

                                   1）W₂=(W₁-F)/S+1.

                                   2）H₂=(H₁-F)/S+1.

                                   3）D₂=D₁。

    不引入新的参数，并且一般不会补0。