摘要: 一: 提升方法概述 提升方法是一种常用的统计学习方法,其实就是将多个弱学习器提升(boost)为一个强学习器的算法。其工作机制是通过一个弱学习算法,从初始训练集中训练出一个弱学习器,再根据弱学习器的表现对训练样本分布进行调整,使得先前弱学习器做错的训练样本在后续受到更多的关注,然后基于调整后的样本分 阅读全文
posted @ 2019-05-16 15:10 Parallax 阅读(162) 评论(0) 推荐(0) 编辑
摘要: 首先,取对数不影响函数的单调性,保证输入对应的概率的最大最小值对应似然函数的最值。 其次,减少计算量,比如联合概率的连乘会变成加法问题,指数亦可。 最后,概率的连乘将会变成一个很小的值,可能会引起浮点数截断误差,尤其是当数据集很大的时候,联合概率会趋向于0,非常不利于之后的计算。依据ln曲线可知,很 阅读全文
posted @ 2019-05-16 02:06 Parallax 阅读(546) 评论(0) 推荐(0) 编辑