摘要: 针对于单机多卡,可以使用 nn.DataParallel 进行训练,需要注意的是,与单卡训练有一些地方不同: (1)模型和优化器的初始化: 模型初始化之后,需要传入 nn.DataParallel ,再进行并行化处理,同时注意优化器同样需要做并行化处理,如下: model = Model.Model 阅读全文
posted @ 2020-07-21 15:44 森林1997 阅读(706) 评论(0) 推荐(0) 编辑