摘要: Batch Normalization(批量标准化,简称BN)是近些年来深度学习优化中一个重要的手段。BN能带来如下优点: 加速训练过程; 可以使用较大的学习率; 允许在深层网络中使用sigmoid这种易导致梯度消失的激活函数; 具有轻微地正则化效果,以此可以降低dropout的使用。 但为什么BN 阅读全文
posted @ 2018-10-26 10:27 可可心心 阅读(22322) 评论(1) 推荐(1) 编辑