摘要：
1. 梯度下降方法比较 批量梯度下降法（Batch Gradient Descent） 随机梯度下降法（Stochastic Gradient Descent） 小批量梯度下降法（mini Batch Gradient Desent） 之前我们讲解了两种梯度下降法，一种为 批量梯度下降法 ,每一次下 阅读全文
摘要：
梯度下降法的准确性与调试 对于梯度下降法的使用，一个非常重要的步骤是求解我们定义的损失函数$J$在某个点$\theta$上的梯度值$dJ$，我们也花了很长时间来推导此公式，但是对于一些复杂的函数如非线性函数，求解梯度并不容易，在这种情况下，为了保证求解的梯度表达式正确，发现求解过程中的错误，需要进行 阅读全文