深度学习正则化---集成

集成即多个模型进行融合。

生成多个模型的方法有很多，比如：

1.对数据进行放回重采样的bagging方法--从数量为n的原始数据D中分别独立随机的抽取n次，由于是放回重采样，每次抽取的候选集都是同样的n个数据，这样得到的新数据集用于训练模型。重复这个过程，就会得到多个模型。

2.Boosting方法--先针对原始数据训练一个比随机分类器性能好一点的模型，然后用该分类器对训练数据进行预测，对预测错误的数据进行加权，从而组成一个新训练器，重新训练可以得到新的模型

3.不同的训练数据--比如要对视频分类，部分模型用语音数据，部分模型用字幕图像数据

4.不同的模型结构--比如有的卷积模型用三层卷积有的用五层卷积，同样的训练数据也可以得出来不同的模型