2022年10月27日
BatchNorm推理阶段和Conv合并
摘要： 一、BN层作用 批量归一化（Batch Normalization，BN）在深度学习中常放在卷积层之后，BN层有以下优点： 减少了人为选择参数。在某些情况下可以取消 dropout 和 L2 正则项参数,或者采取更小的 L2 正则项约束参数； 减少了对学习率的要求。现在我们可以使用初始很大的学习率或 阅读全文
posted @ 2022-10-27 21:29 半夜打老虎 阅读(918) 评论(0) 推荐(0) 编辑