2020年7月6日

pytorch多GPU并行计算，pytorch并行库

摘要： 1. nn.DataParallel torch.nn.DataParallel(module, device_ids=None, output_device=None, dim=0) module -要并行化的模块 device_ids (python列表:int或torch.device) - 阅读全文

posted @ 2020-07-06 17:58 那抹阳光1994 阅读(4131) 评论(0) 推荐(0) 编辑

Pytorch剖析器及Pytorch模型的逐层分析

摘要： Pytorch的Autograd模块包括一个分析器（profiler），它可以让你检查模型中不同操作符的成本——包括CPU和GPU。 目前有两种模式——使用profile.实现仅cpu模式和基于nvprof(注册CPU和GPU活动)使用emit_nvtx。 torch.autograd.profil 阅读全文

posted @ 2020-07-06 17:55 那抹阳光1994 阅读(9629) 评论(0) 推荐(2) 编辑

导航