摘要： 对境准备：对于多个GPU而言，一台机器2个GPU，参数交换的流程图： 参数交换从main()进入train()函数，在train函数中找到对应源码为： 因为GPU的个数>1，所以执行sync(solver, NULL, solver->param())和run()函数，首先会执行P2PSync类的构 阅读全文