摘要: BatchNorm, 批规范化,主要用于解决协方差偏移问题,主要分三部分: 计算batch均值和方差 规范化 仿射affine 算法内容如下: 需要说明几点: 均值和方差是batch的统计特性,pytorch中用running_mean和running_var表示 $\gamma \(和\)\bet 阅读全文
posted @ 2021-05-29 11:03 pprp 阅读(1159) 评论(0) 推荐(0) 编辑