Fork me on GitHub

Coding Poineer

Coding Poineer

Coding Poineer

Coding Poineer

Coding Poineer

Coding Poineer

Coding Poineer

Coding Poineer

Coding Poineer

Coding Poineer

Coding Poineer

Pytorch模型结构修改

1. Var方差在pytorch中的差别:

tlist = input.tolist()
print(input)
print(np.mean(tlist), np.var(tlist))
print(torch.mean(input), torch.var(input))


可以看到numpytorch求出来的 **Var **与 **Mean **有差别
原因:如下图为 torch.var 官网描述,其中存在一个矫正 correction【version2加入,默认为1】

refer: https://pytorch.org/docs/stable/generated/torch.var.html

2. 模型修改中使用到 nn.Parameter,但参数并未更新

self.Intra_paras = nn.Parameter(torch.tensor( [ float('-100') for i in range(num_blocks) ]), requires_grad=True)
xs = self.Intra_paras.item() * xs

原因:模型训练流程中,使用的时item(),传入更新图的是实际值
解决:unsqueeze维度之后,直接 *
其它相关确认方法:

  1. 查看 require_grad 是否为 true
  2. 查看 optim 优化器是否把 model 参数添加
posted @   365/24/60  阅读(23)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
历史上的今天:
2020-12-21 微信小程序开发
2020-12-21 css translateY动画结束时往左抖动
点击右上角即可分享
微信分享提示