2014年11月1日
【机器学习】迭代决策树GBRT（渐进梯度回归树）
摘要： 一、决策树模型组合 单决策树C4.5由于功能太简单，并且非常容易出现过拟合的现象，于是引申出了许多变种决策树，就是将单决策树进行模型组合，形成多决策树，比较典型的就是迭代决策树GBRT和随机森林RF。 在最近几年的paper上，如iccv这种重量级会议，iccv ... 阅读全文
posted @ 2014-11-01 23:29 DianaCody 阅读(7751) 评论(0) 推荐(2) 编辑
【机器学习】决策树C4.5、ID3
摘要： 一、算法流程 step1:计算信息熵 step2: 划分数据集 step3: 创建决策树 step4: 利用决策树分类 二、信息熵Entropy、信息增益Gain 重点：选择一个属性进行分支。... 阅读全文
posted @ 2014-11-01 21:50 DianaCody 阅读(342) 评论(0) 推荐(0) 编辑
【机器学习】k近邻算法（kNN）
摘要： 一、写在前面 本系列是对之前机器学习笔记的一个总结，这里只针对最基础的经典机器学习算法，对其本身的要点进行笔记总结，具体到算法的详细过程可以参见其他参考资料和书籍，这里顺便推荐一下Machine Learning in Action一书和Ng的公开课，当然仅有这些是远远不够的，更... 阅读全文
posted @ 2014-11-01 16:56 DianaCody 阅读(3200) 评论(0) 推荐(0) 编辑