摘要: 机器学习中,很多监督学习模型需要构建损失函数,再用优化算法对损失函数进行优化,找到最优参数。常用到的优化算法有梯度下降法和最小二乘法,这里总结梯度下降法。 1 梯度下降原理 梯度下降在求解过程中,只需要求解损失函数的一阶导数,计算代价较小。基本思想:从某一点出发,沿着变化最快的方向前进,到达一个点后 阅读全文
posted @ 2019-09-02 22:57 Christine_7 阅读(769) 评论(0) 推荐(0) 编辑