会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
wa007
博客园
首页
新随笔
联系
订阅
管理
2021年2月17日
优化器
摘要: 梯度下降 https://zhuanlan.zhihu.com/p/32626442 SGD 原始的梯度下降算法:对参数减去当前参数的负梯度 动量算法 梯度=上一次的梯度 和 当前梯度的加权和 优点:减少收敛过程中的震荡,使得收敛过程更加平滑,能加速收敛过程。 Nesterov 比Momentum更
阅读全文
posted @ 2021-02-17 18:06 wa007
阅读(106)
评论(0)
推荐(0)
编辑
公告