BN、LN、IN、GN

ref:
https://cloud.tencent.com/developer/article/1800935

feature 形状为 [b,c,h,w]

  1. BN 在 [b, h, w] 上做归一化
  2. LN 在 [c, h, w] 上做归一化
  3. IN 在 [h, w] 上做归一化
  4. GN 将 c 分 groups, [b, g, c//g, h, w] 在 [c//g, h, w] 上做归一化
posted @ 2022-06-10 09:48  wioponsen  阅读(330)  评论(0编辑  收藏  举报