摘要: 全零初始化的问题: 在Linear Regression中,常用的参数初始化方式是全零,因为在做Gradient Descent的时候,各个参数会在输入的各个分量维度上各自更新。更新公式为: 而在Neural Network(Deep Learning)中,当我们将所有的parameters做全零初 阅读全文
posted @ 2018-07-04 18:39 Junfei_Wang 阅读(336) 评论(0) 推荐(0) 编辑