随笔分类 - 深度学习
摘要：一、grad `grad`是指梯度的缩写。梯度在深度学习中非常重要，因为它们是使用反向传播算法进行网络训练时所需要计算的。PyTorch通过自动微分引擎Autograd提供了自动计算梯度的功能。每个`Tensor`对象都有一个`.grad`属性，这个属性会保存该`Tensor`的梯度。 二、与gra
阅读全文
摘要：一、norm 这个是计算范式 对应的公示是： 正常没有指定p的值的时候默认是2 如下所示 a = torch.arange(1, 6, dtype=torch.float32) print(torch.norm(a)) # 这里p没有指定，则默认是2 print(torch.norm(a, 1))
阅读全文
