摘要：
关于支持向量机SVM，这里也只是简单地作个要点梳理，尤其是要注意的是SVM的SMO优化算法、核函数的选择以及参数调整。在此不作过多阐述，单从应用层面来讲，重点在于如何使用libsvm，但对其原理算法要理解。 SVM理论推导是有些复杂的，关键是怎么把目标函数在约束条... 阅读全文
摘要：
一、LR分类器（Logistic Regression Classifier） 在分类情形下，经过学习后的LR分类器是一组权值w0,w1, …, wn，当测试样本的数据输入时，这组权值与测试数据按照线性加和得到x = w0+w1x1+w2x2+… wnxn，这里x1,x2, …x... 阅读全文
摘要：
朴素贝叶斯主要用于文本分类。文本分类常见三大算法：KNN、朴素贝叶斯、支持向量机SVM。 一、贝叶斯定理 贝叶斯公式思想：利用已知值来估计未知概率。已知某条件概率，如何得到两个事件交换后的概率，也就是已知P(A|B)的情况下如何求得P(B|A)。 ... 阅读全文
摘要：
随机森林（RF, RandomForest）包含多个决策树的分类器，并且其输出的类别是由个别树输出的类别的众数而定。通过自助法（boot-strap）重采样技术，不断生成训练样本和测试样本，由训练样本生成多个分类树组成的随机森林，测试数据的分类结果按分类树投票多少形成的分数而定。... 阅读全文