2022年2月26日
深度学习笔记29 多GPU训练实现
摘要： 就是说，咱论文，咱实在是看的恶心的受不了，来看看李沐压压惊。 因为今天是多GPU训练，而我，作为一个一块GPU都没有的穷鬼，自然跑不了代码，同时，colab上也就只有一块GPU，所以记录一下听课的经验就行。 在从0实现中有一个特别有用的代码： scatter这个函数可以根据你的GPU信息，自动把数据 阅读全文
posted @ 2022-02-26 23:42 爱和九九 阅读(544) 评论(0) 推荐(0) 编辑