查看模型和数据是否在GPU上

# PyTorch查看模型和数据是否在GPU上
data = torch.zeros([1,2])
print(data.device)
#此外也可以用.is_cuda也可以判断模型和数据是否在GPU上，例如：data.is_cuda

1.查看tensor所在的设备

data = data.cuda()#将数据转移到gpu上
print(data.device)  # 输出：cuda:0
data = data.cpu()#将数据转移到cpu上
print(data.device)  # 输出：cpu

2. 查看model所在的设备

model = model.cuda()#将模型转移到gpu上
print(next(model.parameters()).device)  # 输出：cuda:0
model = model.cpu()#将模型转移到cpu上
print(next(model.parameters()).device)  # 输出：cpu

3.Pytorch中将模型和张量加载到GPU的常用方法有两种。

方式1

# 如果GPU可用，将模型和张量加载到GPU上
if torch.cuda.is_available():
    model = model.cuda()
    x = x.cuda()
    y = y.cuda()

方式2

# 分配到的GPU或CPU
device=torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
# 将模型加到GPU
model=model.to(device)
# 将张量加到GPU
x=x.to(device)
y=y.to(device)

4.指定GPU代码

# 代码1：
torch.cuda.set_device(1)
# 代码2：
device = torch.device("cuda:1")
# 代码3：（官方推荐使用）,
os.environ["CUDA_VISIBLE_DEVICES"] = '1'
#（如果你想同时调用两块GPU的话）
os.environ["CUDA_VISIBLE_DEVICES"] = '1,2'