摘要：​ 本文来自公众号“AI大道理” 训练一个神经网络，我们想要得到误差最小，就是要我们的损失函数最小。 如何得到最小值呢？ 这就是优化算法。 梯度下降法是众多优化中的一种。 1、损失函数 2、GD（梯度下降法） 3、BGD（批量梯度下降法） 4、SGD（随机梯度下降法） 5、MBGD（小批量梯度下降法 阅读全文