07 2018 档案

摘要:基础概念 LigthGBM是boosting集合模型中的新进成员,它和xgboost一样是对GBDT的高效实现,很多方面会比xgboost表现的更为优秀。原理上它和GBDT及xgboot类似,都采用损失函数的负梯度作为当前决策树的残差近似值,去拟合新的决策树。 LightGBM的优化点 1、采用直方 阅读全文
posted @ 2018-07-21 16:12 molearner 阅读(10267) 评论(1) 推荐(1)
摘要:基础概念 超参数是在开始学习过程之前设置值的参数,而不是通过训练得到的参数数据。通常情况下,在机器学习过程中需要对超参数进行优化,给学习器选择一组最优超参数,以提高学习的性能和效果。比如,树的数量或树的深度,学习率(多种模式)以及k均值聚类中的簇数等都是超参数。 与超参数区别的概念是参数,它是模型训 阅读全文
posted @ 2018-07-17 22:33 molearner 阅读(18869) 评论(0) 推荐(3)