会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Rhys_Wang
博客园
首页
新随笔
联系
管理
订阅
2018年7月4日
Parameter Initializations in Deep Learning
摘要: 全零初始化的问题: 在Linear Regression中,常用的参数初始化方式是全零,因为在做Gradient Descent的时候,各个参数会在输入的各个分量维度上各自更新。更新公式为: 而在Neural Network(Deep Learning)中,当我们将所有的parameters做全零初
阅读全文
posted @ 2018-07-04 18:39 Junfei_Wang
阅读(336)
评论(0)
推荐(0)
编辑
公告