201116西瓜书机器学习系列---8、集成学习

201116西瓜书机器学习系列---8、集成学习

一、总结

一句话总结：

 

1、继承学习理论基础？

个体与集成的关系、模型结合策略、多样性

 

 

2、集成学习有哪些方法？

 

 

3、个体与集成的关系？

 

 

4、模型结合策略？

 

 

5、模型的多样性？

 

 

6、AdaBoost实例：怎么判断是否是苹果问题？

【找特征->错误放大 的循环】：先判断圆形是苹果，肯定会有错的，然后将错误的放大，找到新特征，红色的是苹果，肯定还是有错的，接着错误放大，再找新特征

 

 

7、AdaBoost核心思想？

渐进的方式实现了【加法模型】$$\sum _ { t = 1 } ^ { T } \alpha _ { t } h _ { t } ( x )$$

每个阶段学习一个弱分类器来【弥补前面整个分类器（也是由弱分类器组成的）的缺憾】

每一个阶段学习的时候，【分错的点会增加训练的权重】

 

8、Bagging和随机森林？

之前的AdaBoost是串行，这个有点并行的感觉

 

9、集成学习 参考资料？

可以多看英语的参考资料

 

 

 

二、内容在总结中

博客对应课程的视频位置：