文章分类 - 机器学习
摘要：推荐系统 目前推荐系统被应用于各个领域，例如淘宝的商品推荐、b站的视频推荐、网易云音乐的每日推荐等等，这些都是基于用于往日在平台的行为模式给用户推荐他们可能喜欢的商品、视频、音乐。 下面我们将以电影推荐系统举例，一步一步通过Python实现一个简单的电
阅读全文
摘要：手写数字识别应用程序 导入模块 图像转向量 训练并测试模型 总共错了13个数据 错误率为1.37 模型转应用程序 展示图片 处理图片 预测图片 结果:[2]
阅读全文
摘要：特征预处理 之前说到构建机器学习系统的步骤中的第二步说到需要进行数据预处理，但是并没有说如何对数据进行预处理，这一章将会展开来说说将来建模时会碰到的各种脏数据的形式，以及对这种形式数据的处理方式，而对数据处理即对数据的特征进行处理。 特征预处理学习目标 1. 缺失值处理 2.
阅读全文
摘要：AdaBoost算法代码(鸢尾花分类) 导入模块 导入数据 构造决策边界 训练模型 训练模型(n_e=10, l_r=0.8) AdaBoostClassifier(algorithm='SAMME', base_estimator=DecisionTreeClassifier(class_weig
阅读全文
摘要：提升树 提升树(boosting tree)是以分类树或回归树作为弱学习器的强学习器。 提升树模型用的是加法模型，算法用的是前向分步算法，弱学习器是决策树的集成学习方法。 提升树学习目标 1. 加法模型 2. 前向分步算法 3. 提升树与AdaBoos
阅读全文
摘要：[TOC] 梯度提升树 梯度提升树(gradien boosting decision tree，GBDT)在工业上用途广泛，属于最流行、最实用的算法之一，梯度提升树可以看成是提升树的优化版。 梯度提升树学习目标 1. 梯度提升树和提升树 2. 回归梯度提升树流程 3. 梯度
阅读全文
摘要：[TOC] scikit learn库之梯度提升树 本文主要介绍梯度提升树的两个模型 和`GradientBoostingRegressor GradientBoostingClassifier GradientBoostingRegressor`模型。 &ems
阅读全文
摘要：[TOC] scikit learn库之AdaBoost算法 插图：恶搞图11 当我们对Adaboost调参时，主要要对两部分内容调参，第一部分是对Adaboost的框架进行调参，第二部分是对弱学习器调参。本文主要介绍AdaBoost的两个模型 和`AdaBoostRegre
阅读全文
摘要：AdaBoost算法 集成学习中弱学习器之间有强依赖关系的，称之为Boosting系列算法，而AdaBoost则是Boosting系列算法中最著名的算法之一。 AdaBoost算法强大之处在于既可以解决分类问题，又可以解决回归问题。 AdaBoost算
阅读全文
摘要：[TOC] 集成学习基础 集成学习(ensemnle learning)通过构建并结合多个学习器来完成学习任务，集成学习可以用于分类问题集成、回归问题集成、特征选取集成、异常点检测集成等等。 集成学习基础学习目标 1. 集成学习构成 2. Boosting和Bagging 3
阅读全文