摘要：数学之美番外篇：平凡而又神奇的贝叶斯方法BY刘未鹏–SEPTEMBER 21, 2008POSTED IN:数学,机器学习与人工智能,计算机科学概率论只不过是把常识用数学公式表达了出来。——拉普拉斯记得读本科的时候，最喜欢到城里的计算机书店里面去闲逛，一逛就是好几个小时；有一次，在书店看到一本书，名叫贝叶斯方法。当时数学系的课程还没有学到概率统计。我心想，一个方法能够专门写出一本书来，肯定很牛逼。后来，我发现当初的那个朴素归纳推理成立了——这果然是个牛逼的方法。——题记目录0. 前言1. 历史 1.1 一个例子：自然语言的二义性 1.2 贝叶斯公式2. 拼写纠正3. 模型比较与贝叶斯奥卡姆剃刀 阅读全文

摘要：前几天学习了PCA，LDA算法，都是经典的降维算法。第一种为无监督学习，第二种为监督学习。 今天看了另一种监督学习的降维算法LPP(Locality Preserving Projection)，在此记录下自己的心得体会。 就从算法的步骤上来说，LDA和LPP有着惊人的相似，以至于我怀疑他们之间只是同一种方法的不同表示。为了验证我的想法，我采用这两组算法对相同的数据进行降维，降维后的数据证明了我的想法是错的。但是降维后的数据确实非常的相近。还请各路大神指导两者之间的关系。 LPP算法先需要用明确类别的样本进行训练。 如有n个K维训练样本，X1，X2...Xn构成矩阵X，样本分为C种。我... 阅读全文

摘要：LDA算法入门一．LDA算法概述：线性判别式分析(LinearDiscriminantAnalysis,LDA)，也叫做Fisher线性判别(FisherLinearDiscriminant,FLD)，是模式识别的经典算法，它是在1996年由Belhumeur引入模式识别和人工智能领域的。性鉴别分析的基本思想是将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特征空间维数的效果，投影后保证模式样本在新的子空间有最大的类间距离和最小的类内距离，即模式在该空间中有最佳的可分离性。因此，它是一种有效的特征抽取方法。使用这种方法能够使投影后模式样本的类间散布矩阵最大，并且同时类内散布矩阵 阅读全文

摘要：谈谈对PCA应用的理解 阅读全文