2019年10月16日
机器学习中计算优化的 Ring AllReduce
摘要： 参考这篇文章： https://blog.csdn.net/dpppBR/article/details/80445569 谈一下我的理解，在GPU的机器学习过程中，传统的做法有类似MapReduce的地方，把数据分成若干个小块，每个小块在一个GPU上训练（Map），然后把训练得到的神经网络参数汇总 阅读全文
posted @ 2019-10-16 11:12 爱知菜 阅读(48) 评论(0) 推荐(0) 编辑