为啥要使用梯度下降法

求最大值最小值的两种主流方法：

  

将导致设置为0当然是最简单的方法，但是有时求导之后，没法发保证左边只包含w，而右边不包含的情况，此时需要使用梯度下降法。

先随便给一个w的初始值，然后根据导函数，一步步的迭代，直到w收敛。

此时w的对应的f(w)值也越来越趋近最小值！ 

posted @   宋桓公  阅读(45)  评论(0)  编辑  收藏  举报
相关博文：
·  前馈和反向传播
·  线性代数感悟之4 通过增广矩阵查看解的情况上篇
·  python 使用梯度下降法找最小值（Find the minimum using gradient descent）
·  利用梯度下降法计算二元函数的最小值
·  梯度下降求极值
阅读排行：
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型，支持深度思考和联网搜索！
· 基于 Docker 搭建 FRP 内网穿透开源项目（很简单哒）
· ollama系列01：轻松3步本地部署deepseek，普通电脑可用
· 25岁的心里话
· 按钮权限的设计及实现
历史上的今天：
2015-06-21 一波三折Miz702终于能显示桌面上网啦
点击右上角即可分享
微信分享提示
AI IDE Trae