2023年1月24日
【机器学习与深度学习理论要点】22. 梯度，梯度下降，梯度消失问题，梯度爆炸问题，批量梯度下降、随机梯度下降的特点？
摘要： 1、什么是梯度 梯度是一个向量，表示某一函数在该点处的方向导数沿该方向取得最大值，即函数在该点处沿着该方向变化最快，变化率最大。 2、什么是梯度下降 梯度下降是一个最优化的算法，用来递归性地逼近最小偏差模型，核心思想是按照梯度相反的方向，不停地调整函数权值，步骤为： 1）求损失函数值 2）损失是否最 阅读全文
posted @ 2023-01-24 21:08 野哥李 阅读(21) 评论(0) 推荐(0) 编辑