决策树的集成方法

（原创）

本文讨论决策树的集成方法，主要思想有两种

1.bagging ，以随机森林为代表

构建独立的树，然后加权平均的思想

 

2.boosting ，以adaboost，gbdt为代表

由弱分类器，组成强分类器，他与bagging的显著不同是减少偏差而不是方差