飞鸟各投林

导航

2017年3月28日 #

SMO算法精解

摘要: 本文参考自:https://www.zhihu.com/question/40546280/answer/88539689 解决svm首先将原始问题转化到对偶问题,而对偶问题则是一个凸二次规划问题,理论上你用任何一个解决凸二次规划的软件包都可以解决,但是这样通常来说很慢,大数据情况下尤其不实际, s 阅读全文

posted @ 2017-03-28 19:23 飞鸟各投林 阅读(3451) 评论(0) 推荐(0) 编辑

奇异值与主成分分析(PCA)

摘要: 主成分分析在上一节里面也讲了一些,这里主要谈谈如何用SVD去解PCA的问题。PCA的问题其实是一个基的变换,使得变换后的数据有着最大的方差。方差的大小描述的是一个变量的信息量,我们在讲一个东西的稳定性的时候,往往说要减小方差,如果一个模型的方差很大,那就说明模型不稳定了。但是对于我们用于机器学习的数 阅读全文

posted @ 2017-03-28 01:41 飞鸟各投林 阅读(664) 评论(0) 推荐(0) 编辑

随机深林和GBDT

摘要: 随机森林(Random Forest): 随机森林是一个最近比较火的算法,它有很多的优点: 在数据集上表现良好 在当前的很多数据集上,相对其他算法有着很大的优势 它能够处理很高维度(feature很多)的数据,并且不用做特征选择 在训练完后,它能够给出哪些feature比较重要 在创建随机森林的时候 阅读全文

posted @ 2017-03-28 01:36 飞鸟各投林 阅读(251) 评论(0) 推荐(0) 编辑