2018年4月26日

深度学习-初始化权重矩阵

摘要: 1.初始化权重矩阵为0 对于每个隐含层节点,输出的结果都是一样的。另外,进行梯度下降时,由于偏导一样,因此不断迭代,不断一样,不断迭代,不断一样..多层神经网络表现的跟线性模型一样,不可取! 2.随机初始化权重矩阵 (1)标准正态分布 np.random.rand(size_l,size_l-1) 阅读全文

posted @ 2018-04-26 12:13 Magic_chao 阅读(3993) 评论(0) 推荐(0) 编辑

导航