batchnorm2d函数理解,numpy数据归一化
摘要:1.batchnorm2d 深刻理解 对一批数据,计算各个维度上的均值和标准差,一批数据有几个维度,就有几个均值,下面代码加红部分,一批数据(2,3,64,64),均值有3个 m = nn.BatchNorm2d(3,affine=True) input = torch.randn(2, 3, 64
阅读全文
posted @
2020-04-28 17:53
爽歪歪666
阅读(3106)
推荐(0) 编辑
GAN的数学原理
摘要:KL散度(Kullback–Leibler divergence):用于刻画概率分布Q拟合概率分布P的程度,P为真实数据的概率分布,Q为随机噪声生成数据的概率分布,对抗的目的是让Q充分拟合P,如果Q拟合P不充分,就会产生信息损耗,整个信息损耗就是P和Q的KL散度。 离散的概率分布公式定义: 连续的概
阅读全文
posted @
2020-01-12 16:48
爽歪歪666
阅读(395)
推荐(0) 编辑
感受野
摘要:神经网络中感受野的定义:卷积神经网络的每一层输出的特征图(Feature ap)上的像素点在原图像上映射的区域大小。 参考链接 https://zhuanlan.zhihu.com/p/23358015 计算过程: 例如,有5次卷积,每次kenalsize=(3,3),padding=0,strid
阅读全文
posted @
2020-01-03 15:54
爽歪歪666
阅读(131)
推荐(0) 编辑