2023年4月25日
DDP运行报错（单卡无错）：ERROR:torch.distributed.elastic.multiprocessing.api:failed (exitcode: 1)
摘要： 使用DDP时出现错误，但是单卡跑无错误。 错误记录如下： RuntimeError: Expected to have finished reduction in the prior iteration before starting a new one. This error indicates 阅读全文
posted @ 2023-04-25 11:32 石中火本火 阅读(9404) 评论(0) 推荐(1) 编辑