Bayesian

auto ml主要是提供end-to-end的解决方案,目前也存在很多算法去解决最优解搜索的问题,常见的例如: grid search...

就AutoML的流程而言,可以参考下图:

整个过程中,柱形表示的是:数据,模型,以及要tune的数据对, 如:(lr, accuracy)

用户需要预设定一些数据对,然后算法会在数据对上寻找能使得accuracy最高的组合

这里用的贝叶斯算法,是建立在两个数据点之间的分布是高斯分布, 然后用不断逼近的方式去寻找最优解。

求解过程可以用下图简略表示:

关于实现,推荐使用:https://github.com/fmfn/BayesianOptimization

原文地址:https://www.cnblogs.com/lightsun/p/10490699.html