2022-11-22 Diffusion Model

一文汇总超参自动优化方法 (qq.com)

网格搜索是暴力搜索，在给定超参搜索空间内，尝试所有超参组合，最后搜索出最优的超参组合

随机搜索是在搜索空间中采样出超参组合，然后选出采样组合中最优的超参组合

贝叶斯优化(Bayesian Optimization)

针对expensive blackbox function找到全局最优

  • 使用代理模型 、使用高斯过程去构建

Hyperband

使用早停策略和Sccessive Halving算法

posted @ 2023-02-27 19:26  cyinen  阅读(7)  评论(0)  编辑  收藏  举报