pytorch基础 - 随笔分类 - jasonzhangxianrong

Pytorch DDP分布式训练介绍

摘要：近期一直在用torch的分布式训练，本文调研了目前Pytorch的分布式并行训练常使用DDP模式(Distributed DataParallell )，从基本概念，初始化启动，以及第三方的分布式训练框架展开介绍。最后以一个Bert情感分类给出完整的代码例子：torch-ddp-examples。阅读全文

posted @ 2024-08-25 16:14 jasonzhangxianrong 阅读(1297) 评论(0) 推荐(1) 编辑

（二）WGAN实战

摘要：一、WGAN实战 import torch from torch import nn, optim, autograd import numpy as np import visdom from torch.nn import functional as F from matplotlib impo 阅读全文

posted @ 2023-11-01 19:36 jasonzhangxianrong 阅读(60) 评论(0) 推荐(0) 编辑

（一）GAN实战

摘要：一、代码 import torch from torch import nn, optim, autograd import numpy as np import visdom from torch.nn import functional as F from matplotlib import p 阅读全文

posted @ 2023-11-01 19:32 jasonzhangxianrong 阅读(20) 评论(0) 推荐(0) 编辑

pytorch（二十七）：模型的保存与加载

摘要：pytorch保存模型非常简单，主要有两种方法：只保存参数；（官方推荐）保存整个模型 (结构+参数)。由于保存整个模型将耗费大量的存储，故官方推荐只保存参数，然后在建好模型的基础上加载。本文介绍两种方法，但只就第一种方法进行举例详解。一、只保存参数 1.保存一般地，采用一条语句即可保存参数阅读全文

posted @ 2021-08-17 10:08 jasonzhangxianrong 阅读(459) 评论(0) 推荐(0) 编辑

pytorch（二十六）：自动编码器

摘要：一、自动编码器 1、AE.py import torch from torch import nn class AE(nn.Module): def __init__(self): super(AE, self).__init__() #[b, 784] => [b, 20] self.encode 阅读全文

posted @ 2021-06-30 19:48 jasonzhangxianrong 阅读(349) 评论(0) 推荐(0) 编辑

pytorch（二十五）：循环神经网络

摘要：pytorch循环神经网络阅读全文

posted @ 2020-12-02 12:59 jasonzhangxianrong 阅读(242) 评论(0) 推荐(0) 编辑

pytorch（二十四）：卷积神经网络

摘要：pytorch卷积神经网络阅读全文

posted @ 2020-11-30 19:02 jasonzhangxianrong 阅读(716) 评论(0) 推荐(0) 编辑

pytorch（二十三）：动量与学习率衰减与DropOut

摘要：pytorch动量与学习率衰减阅读全文

posted @ 2020-11-30 13:11 jasonzhangxianrong 阅读(172) 评论(0) 推荐(0) 编辑

pytorch（二十二）：正则化

摘要：pytorch正则化阅读全文