会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
north_startx
博客园
首页
新随笔
联系
订阅
管理
2020年10月13日
pytorch 分布式训练
摘要: 1.初始化进程组dist.init_process_group(backend="nccl")backend是后台利用nccl进行通信 2.使样本之间能够进行通信train_sampler = torch.utils.data.distributed.DistributedSampler(train
阅读全文
posted @ 2020-10-13 19:16 north_startx
阅读(1120)
评论(0)
推荐(0)
编辑
公告