梯度下降

梯度下降法+最小二乘法

1、具体原理：

（1）确定预测函数

image-20220713105546555image-20220713145601095

（2）找到代价函数（损失函数）

image-20220713105639129image-20220713145911954

（3）梯度计算

​ 陡峭程度即为梯度，为代价函数的导数（梯度下降法）

image-20220713150100392image-20220713150132447

最小二乘法3步：

（4）学习率

​ 每次下降多大

img

（5）循环迭代

2、预测函数的类型

​ 预测函数可能多种多样，例如y=wx+b,里面有两个变量，画出来就是一个曲面，其对应的损失函数如图，又或者是超维曲面

image-20220713150434178image-20220713150715516

3、梯度下降类型

image-20220713110208545 image-20220713110246601 image-20220713110401602

4、存在问题

image-20220713105928336image-20220713110044263

【梯度下降】3D可视化讲解通俗易懂_哔哩哔哩_bilibili

posted @   德琪  阅读(36)  评论(0)  编辑  收藏  举报
相关博文：
· python面试题
· 生产线平衡
· 梯度下降算法入门
· 梯度下降算法
· 图文解析：梯度下降原理与实现
阅读排行：
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布：重大改进与新特性概览！
· AI与.NET技术实操系列（二）：开始使用ML.NET
· 单线程的Redis速度为什么快？
点击右上角即可分享
微信分享提示
AI FOR CODE 大赛