2018年11月7日
在tensorflow中使用batch normalization
摘要： 问题 训练神经网络是一个很复杂的过程，在前面提到了深度学习中常用的激活函数，例如ELU或者Relu的变体能够在开始训练的时候很大程度上减少梯度消失或者爆炸问题，但是却不能保证在训练过程中不出现该问题，例如在训练过程中每一层输入数据分布发生了改变了，那么我们就需要使用更小的learning rate去 阅读全文
posted @ 2018-11-07 20:21 冰皮抹茶 阅读(3295) 评论(0) 推荐(0) 编辑