摘要：
卷积神经网络在实际中的应用 在实际训练卷积神经网络中有很多方法可以对均积神经网络进行优化。 使用线性修正单元（Using rectified linear units） 用激活函数： 来代替S型激活函数。 扩展训练数据（Expanding the training data） 插入一个额外的全连接层 阅读全文
摘要：
卷积神经网络（convolutional neural networks） 使用全连接的网络架构来分类图像完全没有考虑图像的空间结构。卷积神经网络使用了一个特别适用于图像分类的特殊架构。卷积神经网络采用了三种基本概念：局部感受野（local receptive fields），共项权重（shared 阅读全文
摘要：
在深度网络中，不同层的学习速度差异很大。例如：在网络中后面的层学习情况很好的时候，前面的层常常会在训练时停滞不前，基本上不学习了。另一种情况恰恰相反，前面的层学习的很好，后面的层却停止学习了。 这是因为基于梯度下降的学习算法的本身存在着内在的不稳定性，这种不稳定性使得前面或者后面的层的学习停止。 消 阅读全文