集成学习算法（未完成）

 

提升类算法相比单棵树对样本进行了样本交叉。

 

一、GBDT

比较好的GBDT的文章： https://www.cnblogs.com/leftnoteasy/archive/2011/03/07/random-forest-and-gbdt.html

GBDT源码分析：https://www.jianshu.com/p/02cfaae3fd01

sklearn源码：https://github.com/scikit-learn/scikit-learn/tree/master/sklearn

• GBDT源码：https://github.com/scikit-learn/scikit-learn/tree/master/sklearn
• scikit-learn官方文档：http://scikit-learn.org/stable/modules/ensemble.html#gradient-tree-boosting
• XGBoost 与 Boosted Tree：http://www.52cs.org/?p=429 （虽然是陈天奇介绍XGBoost的文章，但对Boosted Tree的概念讲的很清晰）
• 决策树模型组合之随机森林与GBDT：http://www.cnblogs.com/LeftNotEasy/archive/2011/03/07/random-forest-and-gbdt.html
• scikit-learn 梯度提升树(GBDT)调参小结：http://www.cnblogs.com/pinard/p/6143927.html

二、XGBoost

三、LightGBM

四、RF