会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
jasonzhangxianrong
博客园
首页
新随笔
联系
订阅
管理
2024年8月25日
Pytorch DDP分布式训练介绍
摘要: 近期一直在用torch的分布式训练,本文调研了目前Pytorch的分布式并行训练常使用DDP模式(Distributed DataParallell ),从基本概念,初始化启动,以及第三方的分布式训练框架展开介绍。最后以一个Bert情感分类给出完整的代码例子:torch-ddp-examples。
阅读全文
posted @ 2024-08-25 16:14 jasonzhangxianrong
阅读(597)
评论(0)
推荐(1)
编辑
公告