adaboost
Adaboost是一种迭代算法,其核心思想是针对同一个训练集训练不同的分类器(弱分类器),然后把这些弱分类器集合起来,构成一个更强的最终分类器(强分类器)。
过程:
首先对于向量{XT,y},给定初始权值1/N,目标函数 y=sign(amGm(x)),其中am初始为1,首次Gm(x)可以凭经验给出。Gm(x)->{-1,1}
根据错误样本个数得出 em=(错误样本个数)/总样本个数
am=1/2log( (1-em)/em ) 解出am
wm+1=wm/Zm exp(-amyiGm(xi))
更新wm,
继续迭代直至没有错误样本产生。
得出最终结果
y=sign(akGk(x)+.....+a1G1(x))