Lauen_1

Stay foolish

2015年6月13日

统计学习方法笔记 提升树

摘要: 提升树是以分类树或回归树为基本分类器的提升方法 提升树被认为是统计学习中性能最好的方法之一 提升方法实际采用加法模型(基函数的线性组合)与前向分步算法 以决策树为基函数的提升方法称为提升树 对分类问题决策树是二叉分类树 对回归问题决策树是二叉回归树 提升树模型可以表示为决策树的加法模型: T(x;Θm)表示决策树; Θm为决策树的参数;... 阅读全文

posted @ 2015-06-13 22:04 Lauen_1 阅读(441) 评论(0) 推荐(0) 编辑

统计学习方法 AdaBoost

摘要: 提升方法的基本思路 在概率近似正确(probably approximately correct,PAC)学习的框架中, 一个概念(一个类),如果存在一个多项式的学习算法能够学习它,并且正确率很高,那么就称这个概念是强可学习的; 一个概念,如果存在一个多项式的学习算法能够学习它,学习的正确率仅比随机猜测略好,那么就称这个概念是弱可学习的。 Schapire后来证明强可学习... 阅读全文

posted @ 2015-06-13 20:54 Lauen_1 阅读(1248) 评论(0) 推荐(0) 编辑

导航