[MLOps] Which tools?

Ref: 最好的任务编排工具：Airflow vs Luigi vs Argo vs MLFlow vs KubeFlow

---

工具对比

最近，用于编排任务和数据工作流的新工具激增（有时称为“MLOps”）。这些工具的数量众多，使得选择正确的工具成为一个难题，因此我们决定将一些最受欢迎的工具进行对比。

 

MLFlow

但是可以将MLFlow直接导入到机器学习代码中，并使用其辅助函数来记录信息，例如模型使用的超参数。您还可以将MLFlow用作命令行工具，以服务使用通用工具（例如scikit-learn）构建的模型或将其部署到通用平台（例如AzureML或Amazon SageMaker）。 

 

 

Ref: AirFlow/NiFi/MLFlow/KubeFlow进展

---

MLFlow 机器学习系统

MLFlow是基于Python开发的DAG数据工作流框架，主要面向机器学习，支持Spark并行环境和Kubernetes容器集群。

看样子，应该先从这里入手。

• • Spark机器学习工具链-MLflow简介
  • Spark机器学习工具链-MLflow使用教程
  • MLflow机器学习工作流框架更新(2019.3)
  • Jupyter on Kubernetes机器学习-MLflow

 

 

Ref: Keeping your ML model in shape with Kafka, Airflow and MLFlow

---

MLFlow 作用

MLFlow is an open-source tool that enables you to keep track of your ML experiments, amongst others by logging parameters, results, models and data of each trial .

Last but not least, we log the results, model parameters, and sample characteristics of each update run with MLFlow.

 

 

 

MLFlow 与 Tensorboard

MLflow是library无关的。你可以使用任何机器学习库，使用任何编程语言，因为所有的功能访问都通过 REST API 和 CLI，为了方便应用，项目包含了 Python API。

相对于tf的模型训练，Tensorboard貌似也是类似功能。 

 

问题来了，training tf时，如何把tensorboard以一种合适的方式嵌入到自己的网页中呢？