摘要：
在神经网络中，当我们的网络层数越来越多时，网络的参数也越来越多，如何对网络进行训练呢？我们需要一种强大的算法，无论网络多复杂，都能够有效的进行训练。在众多的训练算法中，其中最杰出的代表就是BP算法，它是至今最成功的神经网络学习算法。在实际任务中，大部分都是使用的BP算法来进行网络训练的。值得一提的是 阅读全文
摘要：
在机器学习中，我们构建的模型，大部分都是通过求解代价函数的最优值进而得到模型参数的值。那么，对于构建好的目标函数和约束条件，我们应该如何对其进行求解呢！ 在机器学习中，最常用的优化方法是梯度下降法。梯度下降法或最速下降法是求解无约束最优化问题的一种最常用的方法，有实现简单的优点。梯度下降法是迭代算法 阅读全文