嘣嘣嚓

摘要： 机器学习-二分KMeans 由于传统的KMeans算法的聚类结果容易受到初始聚类中心点选择的影响，因此在传统的KMeans算法的基础上进行算法改进，对初始中心点选取比较严格，各中心点的距离较远，这就避免了初始聚类中心会选到一个类上，一定程度上克服了算法限入局部最优状态。 二分KMeans(Bisec 阅读全文

摘要： 机器学习-推荐系统-协同过滤 协同过滤(Collaborative Filtering, CF) 基于协同过滤的推荐，它的原理很简单，就是根据用户对物品或者信息的偏好，发现物品或者内容本身的相关性，或者发现用户的相关性，然后再基于这些相关性进行推荐。基于协同过滤的推荐可以分为两个简单的子类：基于用户 阅读全文

摘要： 机器学习-kmeans KMeans（K均值）是典型的基于距离的排他划分方法：给定一个n个对象的数据集，它可以构建数据的k个划分，每个划分就是一个聚类，并且k<=n，同时还满足两个要求: 1.每个组至少包含一个对象 2.每个对象必须属于且仅属于一个组 优点： 擅长处理球状分布的数据，当结果聚类是密集 阅读全文

摘要： 回归算法原理 CART(Calssification and Regression Tree)算法是目前决策树算法中最为成熟的一类算法，应用范围也比较广泛。它即可用于分类，也可用于预测。 西方预测理论一般都是基于回归的，CART是一种通过决策树方法实现回归的算法，它有很多其他全局回归算法不具有的特性 阅读全文

摘要： 机器学习-预测-线性系统的预测 现在预测学的核心概念：回归。从数学的角度，为事物（系统）的预测提供现代的技术方法。 回归与现代预测学 统计学上最初回归的含义由高尔顿（达尔文的表弟）通过研究父母身高与孩子身高得出。 矮个父母所生的儿子往往会比其父母更高，高个父母所生儿子的身高却回降到多数人的平均身高。 阅读全文

摘要： 机器学习-决策树-C4.5决策树 针对ID3算法存在的一些问题，1993年，Quinlan将ID3算法改进为C4.5算法。该算法成功地解决了ID3算法遇到的诸多问题，发展成为机器学习的十大算法之一。 C4.5并没有改变ID3的算法逻辑，基本的程序结构仍与ID3相同，但在节点的划分标准上做了改进。C4 阅读全文

摘要： 机器学习-决策树-ID3决策树 原理看上一篇，这篇只有代码实现 它以信息熵为度量标准，划分出决策树特征节点，每次优先选取信息量最多的属性，也就是使信息熵变为最小的属性，以构造一颗信息熵下降最快的决策树。 缺点 ID3算法的节点划分度量标准采用的是信息增益，信息增益偏向于选择特征值个数较多的特征。而取 阅读全文

摘要： 机器学习-决策树的基本思想 决策树算法是最早的机器学习算法之一。 算法框架 1.决策树主函数 各种决策树的主函数都大同小异，本质上是一个递归函数。该函数的主要功能是按照某种规则生长出决策树的各个分支节点，并根据终止条件结束算法。一般来讲，主函数需要完成如下几个功能。 （1）输入需要分类的数据集和类别 阅读全文

摘要： 机器学习-分类算法-kNN kNN（k-Nearest Neighbor）算法：一种基于向量间相似度的分类算法。 kNN原理 k最近邻(k-Nearest Neighbor)算法是比较简单的机器学习算法。它采用测量不同特征之间的距离方法进行分类。 如果一个样本在特征空间中的k个最近邻（最相似）的样本 阅读全文

摘要： 机器学习-朴素贝叶斯原理及Python实现 贝叶斯公式 P(A|B) = (P(B|A)P(A))/P(B) 举例：苹果10个，有2个黄色；梨10个，有6个黄色，求拿出一个黄色水果，是苹果的概率。 代入公式： P(苹果|黄色) = (P(黄色|苹果)P(苹果))/P(黄色) P(黄色) = (2+6 阅读全文