深度学习笔记-4. 微积分

基础示例

 x = torch.arange(4.0)
x.requires_grad_(True)  # 等价于x=torch.arange(4.0,requires_grad=True)
x.grad  # 默认值是None
y = 2 * torch.dot(x, x)
y.backward()
x.grad  #tensor([ 0.,  4.,  8., 12.])

非标量变量的反向传播

 # 对非标量调用backward需要传入一个gradient参数，该参数指定微分函数关于self的梯度。
# 本例只想求偏导数的和，所以传递一个1的梯度是合适的
x.grad.zero_()
y = x * x
# 等价于y.backward(torch.ones(len(x)))
y.sum().backward()
x.grad

posted on 2024-07-22 17:05 朝朝暮Mu 阅读(10) 评论(0) 编辑收藏举报

刷新页面返回顶部

登录后才能查看或发表评论，立即登录或者逛逛博客园首页

相关博文：

· 深度学习笔记-3. 线性代数

· 深度学习笔记-2. 数据操作

· 动手学深度学习

· Pytorch深度学习：自动微分

· torch.Tensor.backward()简单使用

阅读排行：
· 震惊！C++程序真的从main开始吗？99%的程序员都答错了
· winform 绘制太阳，地球，月球运作规律
· 【硬核科普】Trae如何「偷看」你的代码？零基础破解AI编程运行原理
· 上周热点回顾（3.3-3.9）
· 超详细：普通电脑也行Windows部署deepseek R1训练数据并当服务器共享给他人

朝朝暮暮

深度学习笔记-4. 微积分

导航

公告

统计

搜索

常用链接

随笔分类

随笔档案

阅读排行榜

评论排行榜

最新评论

	x = torch.arange(4.0)
	x.requires_grad_(True) # 等价于x=torch.arange(4.0,requires_grad=True)
	x.grad # 默认值是None
	y = 2 * torch.dot(x, x)
	y.backward()
	x.grad #tensor([ 0., 4., 8., 12.])

	# 对非标量调用backward需要传入一个gradient参数，该参数指定微分函数关于self的梯度。
	# 本例只想求偏导数的和，所以传递一个1的梯度是合适的
	x.grad.zero_()
	y = x * x
	# 等价于y.backward(torch.ones(len(x)))
	y.sum().backward()
	x.grad