detach()方法细节

在 PyTorch 中，detach() 方法被用于从计算图中分离一个 Tensor，返回一个新的 Tensor，该 Tensor 与原 Tensor 共享数据存储，但不再与计算图中的任何操作相关联。具体来说，当我们使用 detach() 方法对一个 Tensor 进行分离时，它会创建一个新的 Tensor，该 Tensor 的 requires_grad 属性为 False，因此它不会参与梯度计算。但是，该 Tensor 与原 Tensor 共享数据存储，因此在分离后，我们仍然可以使用新 Tensor 进行计算，并且新 Tensor 的结果不会影响原 Tensor 的计算图。

点击查看代码

x.requires_grad_(True)
y = torch.sin(x)

需要注意的是，由于 x 的 requires_grad 属性为 True，PyTorch 将会跟踪 y 相对于 x 的梯度信息。这意味着我们可以在后续计算中使用 y，并且可以使用 PyTorch 的自动微分功能计算 y 相对于 x 的导数。