摘要：
转载请注明出处：http://www.cnblogs.com/OldPanda上次的感知机算法笔记最后提到了将算法用于多类分类，还提供了相关的PPT链接，最近两天随便翻了翻《模式识别》的感知机部分，觉得某些地方比《统计学习方法》要来得晦涩一些，不过书上的内容比较全，其中就有这个将二类分类到多类分类的问题，是一个叫Kesler construction的方法，书上也给出了例题，在之前的PPT上从第35张开始，给的例题也非常详细，所以具体的算法操作过程就不再详述了。现在就对书上的例题给出解答。例 在二维空间考虑三类问题。每一类的训练向量如下： 因为不同类的向量位于不同的象限，所以很明显这是一个.. 阅读全文
摘要：
转载请注明出处：http://www.cnblogs.com/OldPanda/在没接触knn法（即k邻近法）之前，觉得这个算法很高深，应该不是我这种水货能轻易学会的。看完本章之后不禁豁然开朗，其实道理很简单，就是一个多数投票法，像Adaboost算法，但与之相比要简单一些。最近做的项目和分类有关，恰好书上也只讨论了分类问题中的k邻近法。它的输入为样本的特征向量，对应于特征空间中的点；输出为实例的类别，可以去多类。在一些多类分类中经常可以看到k邻近法的身影，比如动物图片分类，天气图片分类等，这一点是感知机算法所不能及的（虽然它也能通过某些方法来进行多类分类，但总感觉不如k邻近法来的利索）。k邻 阅读全文
摘要：
最近在研究机器学习理论的时候发现了一本好书，是李航博士的《统计学习方法》，书写得深入浅出，直白易懂，虽然不厚，但把统计学习各个方面都照顾到了，非常适合我这种机器学习方面的入门者，于是产生了一种写写读书笔记的想法，至少在日后看起来，也算是自己在追求大道上的一点回忆。 先给出书的豆瓣链接：《统计学习方法》，书真的很好，再次推荐！ 李航老师的微博：@李航博士 1. 感知机模型 我们先来定义一下什... 阅读全文
摘要：
第一篇博客，不写什么实质性的内容了，仅以此文记录一下，老规矩，Hello world！同时感谢@小桥流水的latex插件，终于可以随心所欲编辑公式了。放个经典公式试一试： 阅读全文