会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
csjywu01
博客园
首页
新随笔
联系
订阅
管理
2025年3月24日
LayerNorm和BatchNorm的归一化方式有以下主要区别
摘要: LayerNorm和BatchNorm的归一化方式有以下主要区别: 归一化的维度不同: BatchNorm是在批次维度上进行归一化,即对每个特征维度上的所有样本进行归一化。例如,在一个包含多个样本的批次中,BatchNorm会计算每个特征在所有样本上的均值和方差,然后用这些值对每个样本的该特征进行归
阅读全文
posted @ 2025-03-24 09:54 GraphL
阅读(84)
评论(0)
推荐(0)
公告