摘要：Boosting是串行式集成学习方法的代表，它使用加法模型和前向分步算法，将弱学习器提升为强学习器。Boosting系列算法里最著名的算法主要有AdaBoost和梯度提升系列算法(Gradient Boost，GB)，梯度提升系列算法里面应用最广泛的是梯度提升树(Gradient Boosting 阅读全文

摘要：集成学习的一般结构是，先产生一组个体学习器，再用某种结合策略将它们结合起来，从而获得一个准确性更高，稳定性更强，泛化性能更佳的集成模型。常用的结合策略有绝对多数投票法，相对多数投票法，加权投票法，简单平均法，加权平均法等。 集成学习方法中具有代表性的两类算法是Bagging和Boosting。Bag 阅读全文

摘要：决策树是一种应用广泛的机器学习算法，过程简单，结果易于解释。决策树是一种贪心算法，它在给定时间给做出最佳选择，并不关心能否达到全局最优。 决策树特点 精确度高，容易解释 可表达非线性的关系 不需要大量数据 可能存在过拟合问题 结果不稳定，泛化能力差 ID3：不能处理连续数据，没有剪枝过程，采用信息增 阅读全文