摘要: internal covariate shift(ics):训练深度神经网络是复杂的,因为在训练过程中,每层的输入分布会随着之前层的参数变化而发生变化。所以训练需要更小的学习速度和careful参数初始化,这将减缓训练的速度。 bn的目的就是解决ics 我们知道在神经网络训练开始前,都要对输入数据做 阅读全文
posted @ 2017-04-17 11:24 有梦就要去实现他 阅读(307) 评论(0) 推荐(0) 编辑