摘要：
模型训练技巧 神经网络模型设计训练流程 图1-1 神经模型设计流程 当我们设计并训练好一个神经网络之后，需要在训练集上进行验证模型效果是否良好。这一步的目的在于判断模型是否存在欠拟合；在确定已经在训练集上拟合的很好，就需要在测试集上进行验证，如果验证结果差就需要重新设计模型；如果效果一般，可能需要增 阅读全文
摘要：
反向传播（Back Propagation） 通常在设计好一个神经网络后，参数的数量可能会达到百万级别。而我们利用梯度下降去跟新参数的过程如（1）。但是在计算百万级别的参数时，需要一种有效计算梯度的方法，这种方法就是反向传播（简称BP）， 因此BP并不是一种新的算法，使用BP就是能够使计算梯度时更加 阅读全文