摘要: 在机器学习领域中,梯度下降的方式有三种,分别是:批量梯度下降法BGD、随机梯度下降法SGD、小批量梯度下降法MBGD,并且都有不同的优缺点。 下面我们以线性回归算法(也可以是别的算法,只是损失函数(目标函数)不同而已,它们的导数的不同,做法是一模一样的)为例子来对三种梯度下降法进行比较。 1. 线性 阅读全文
posted @ 2018-04-17 10:55 stAr_1 阅读(319) 评论(0) 推荐(0) 编辑