2020年7月4日

决策树算法之CART

摘要： CART（Classification and Regression Tree），中文名为分类回归树，顾名思义，这种算法既可以完成分类任务，又可以完成回归模型。是1984年由Breiman等四英国人提出的。 一、 特点： 1.该算法是构建二元（Binary）分类回归树的算法，也即，，决策树在每次分叉 阅读全文

posted @ 2020-07-04 17:18 为主而活 阅读(687) 评论(0) 推荐(0) 编辑

决策树算法之C5.0

摘要： C5.0是对ID3算法的改进。 1.引入了分支度Information Value的概念。 C5.0是用哪个信息增益率作为判断优先划分属性的。 信息增益率其实就是在信息增益 除了 分支度。分支度的计算公式如上，就是指，若某划分属性S将样本T划分成n个子集T1,T2,...Tn，则此属性S的分支度就等 阅读全文

posted @ 2020-07-04 16:00 为主而活 阅读(5010) 评论(0) 推荐(0) 编辑

决策树算法之ID3

摘要： ID3算法 ID3使用信息增益（information Gain）作为属性选择方法。信息增益基于信息论中熵（Entropy）的概念。熵是衡量一个节点不纯度的指标。 熵越大，节点越不纯，当熵=0时，节点最纯。 假设一个训练样本集T是含有t个数据的样本集合，假设T在类属性C上有n个不同的值，且在类属性C 阅读全文

posted @ 2020-07-04 15:26 为主而活 阅读(554) 评论(0) 推荐(0) 编辑

导航