Bayesian - Auto ML

auto ml主要是提供end-to-end的解决方案，目前也存在很多算法去解决最优解搜索的问题，常见的例如： grid search...

就AutoML的流程而言，可以参考下图：

整个过程中，柱形表示的是：数据，模型，以及要tune的数据对, 如：（lr, accuracy)

用户需要预设定一些数据对，然后算法会在数据对上寻找能使得accuracy最高的组合

这里用的贝叶斯算法，是建立在两个数据点之间的分布是高斯分布, 然后用不断逼近的方式去寻找最优解。

求解过程可以用下图简略表示：

关于实现，推荐使用：https://github.com/fmfn/BayesianOptimization