Ensemble learning

1. 在统计学和机器学习中，ensemble methods(集成学习方法）使用多个学习算法来获取更好的预测表现相比组成他的所有学习方法。
2. 一个机器学习的集成方法通常指一个具体的有限的替代模型集合，但通常允许更加灵活的数据结构存在
3. 监督学习(Supervised learning)算法通常被描述为探索一个假设空间(hypothesis space),来发现一个合适的假设可以对一个特定的问题作出一个好的预测。即时我们找到的假设空间的假设非常合适这个特定问题，但它仍然非常困难找到一个好的。
4. 集成方法(ensemble)混合多个假设来实现一个更好的假设。
5. 一个集成方法(ensemble)本身就是一个监督学习方法，因此它可以被训练，也可以用来预测。训练后的集成方法，也代表了一个单独的假设。
6. 通常来说，当有显著的多样性在模型中时，集成方法会产生更好的结果。许多集成方法，探索混合模型的多样化。非直观的来说，随机算法更方便被使用来产生更强的集成比那么非常刻意的算法。
7. boosting包括增量的建立一个集成方法，通过训练每一个新的模型实例，强调训练上一个模型的错误分类。