Pytorch模型结构修改
1. Var方差在pytorch中的差别:
tlist = input.tolist()
print(input)
print(np.mean(tlist), np.var(tlist))
print(torch.mean(input), torch.var(input))
可以看到numpy与torch求出来的 **Var **与 **Mean **有差别
原因:如下图为 torch.var 官网描述,其中存在一个矫正 correction【version2加入,默认为1】
refer: https://pytorch.org/docs/stable/generated/torch.var.html
2. 模型修改中使用到 nn.Parameter,但参数并未更新
self.Intra_paras = nn.Parameter(torch.tensor( [ float('-100') for i in range(num_blocks) ]), requires_grad=True)
xs = self.Intra_paras.item() * xs
原因:模型训练流程中,使用的时item()
,传入更新图的是实际值
解决:unsqueeze维度之后,直接 *
其它相关确认方法:
- 查看 require_grad 是否为 true
- 查看 optim 优化器是否把 model 参数添加
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步