卷积核大小选择、网络层数问题

恰当平衡网络的深度和宽度：研究表明，提高性能的关键在于找到网络深度和宽度之间的恰当平衡。这意味着在设计深度网络时，不仅需要考虑网络的深度，还需要关注每一层的宽度，即每一层的滤波器数量。固定每层的网络层数对于架构的效率至关重要。
估算每层的适当滤波器数量：根据网络的深度来估算每一层的适当滤波器数量是决定深度网络成本和精度之间平衡的关键决策。选择适当数量的滤波器可以在保持良好性能的同时，有效地控制模型的复杂性和计算资源的消耗。

CNN网络结构设计的观点：

每一层卷积有多少filters，以及一共有多少层卷积，这些暂时没有理论支撑。一般都是靠感觉去设置几组候选值，然后通过实验挑选出其中的最佳值。
3*3的卷积已经成为了大势所趋，它能在保持计算效率的同时，较好地捕捉局部空间特征，如图像中的边缘和纹理信息，同时限制过大的感受野，避免过高的计算成本和过拟合的风险。
通过在池化阶段使用较少的滤波器以及尺寸为1 × 1 × 3的滤波器，网络可以在减少参数数量的同时保持相同的精度。这样做可以有效地降低模型的计算成本和内存消耗，同时保持良好的性能。

feature map个数如何选择：

关于feature map的个数，有一个大部分网络都在遵循的原则就是当输出特征图尺寸减半时，输出特征图的通道数应该加倍，这样保证相邻卷积层所包含的信息量不会相差太大
至于全连接层的节点数，首先现有的分类网络的最后一层几乎都是使用softmax函数激活，输出图片属于每一个类别的概率值，所以最后一层的节点数等于待分类图片的类别数，这是毋庸置疑的。而在Network in network提出全局平均池化(GAP)后，主流的网络几乎都是在特征图尺寸降低到7*7左右时，直接GAP+全连接+softmax输出分类概率。这样网络中只有一层全连接层，其输入节点数是GAP之前的特征图个数，输出节点数是图片分类类别数目。