随笔分类 - 001_机器学习
摘要:Paracel是豆瓣开发的一个分布式计算框架,它基于参数服务器范式来解决机器学习的问题。本文主要分析其SSP的实现。
阅读全文
摘要:Paracel是豆瓣开发的一个分布式计算框架,它基于参数服务器范式来解决机器学习的问题,本文介绍其主体结构。
阅读全文
摘要:本文是参数服务器的第四篇,介绍KVWorker, KVServer。
阅读全文
摘要:本文是参数服务器第三篇,介绍ps-lite的Customer模块。
阅读全文
摘要:本文是参数服务器系列第二篇,介绍ps-lite的通信模块 Van。
阅读全文
摘要:参数服务器是机器学习训练一种范式,是为了解决分布式机器学习问题的一个编程框架。本文是参数服务器系列第一篇,介绍ps-lite的总体设计和基础模块 Postoffice。
阅读全文
摘要:本文是 horovod on k8s 的最后一篇,看看 MPI-Operator 可能被如何改进。
阅读全文
摘要:Horovod 是一款基于 AllReduce 的分布式训练框架。本文是 Horovod on k8s 第二篇,介绍MPI-Operator。
阅读全文
摘要:Horovod 是一款基于 AllReduce 的分布式训练框架。本文是 Horovod on k8s 第一篇,介绍kubeflow tf-operator。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第十七篇,看看horovod 的容错机制。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是第十六篇,看看 horovod **弹性训练**中 worker 的生命周期。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第十五篇,看看horovod 弹性训练如何广播和发送通知。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第十四篇,看看horovod 如何动态发现节点 和 处理状态信息。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第十三篇,看看 horovod 弹性实现中 的 Driver 角色。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第十二篇,看看horovod 如何实施弹性训练。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第十一篇,看看horovod 如何运行在 spark 之上(GLOO实现)。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本文是系列第十篇,看看horovod 如何运行在 spark 之上。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本文是系列第九篇,介绍 horovod on spark 如何启动。
阅读全文
摘要:Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。接下来几篇介绍 horovod 如何运行在 spark 之上。本文是第八篇,介绍 horovod on spark 的总体架构。
阅读全文