随笔分类 - AI和计算机视觉 / 机器学习
摘要：原文：【机器学习笔记】：一文让你彻底理解准确率，精准率，召回率，真正率，假正率，ROC/AUC 作者：xiaoyu 微信公众号：Python数据科学 知乎：python数据分析师 ROC/AUC作为机器学习的评估指标非常重要，也是面试中经常出现的问题（80%都会问到）。其实，理解它并不是非常难，但是
阅读全文
摘要：由于各种原因，现实世界中的许多数据集都包含缺失值，通常把缺失值编码为空白，NaN或其他占位符。但是，此类数据集与scikit-learn估计器不兼容，这是因为scikit-learn的估计器假定数组中的所有值都是数字，并且都存在有价值的含义。如果必须使用不完整数据集，那么处理缺失数据的基本策略是丢弃
阅读全文
摘要：插补法可以在一定程度上减少偏差，常用的插补法是热卡插补、拟合插补和多重插补。拟合插补，要求变量间存在强的相关性；多重插补（MCMC法），是在高缺失率下的首选插补方法，优点是考虑了缺失值的不确定性。 一，热卡插补 热卡填充（Hot deck imputation）也叫就近补齐，对于一个包含空值的对象，
阅读全文
摘要：在真实的世界中，缺失数据是经常出现的，并可能对分析的结果造成影响。我们需要了解数据缺失的原因和数据缺失的类型，并从数据中识别缺失值，探索数据缺失的模式，进而处理缺失的数据。本文概述处理数据缺失的方法。 一，数据缺失的原因 首先我们应该知道：数据为什么缺失？数据的缺失是我们无法避免的，可能的原因有很多
阅读全文
摘要：在回归任务（对连续值的预测）中，常见的评估指标（Metric）有：平均绝对误差（Mean Absolute Error,MAE）、均方误差（Mean Square Error,MSE）、均方根误差（Root Mean Square Error,RMSE）和平均绝对百分比误差（Mean Absolut
阅读全文
摘要：探索数据是指研究数据，发现数据的结构。数据集由数据对象构成，一个数据对象代表一个实体，实体由属性构成，属性是一个数据字段，表示数据对象的一个特征，通常，在数据分析和机器学习中，属性、维度、特征和变量这四个术语可以互换。 用来描述一个数据对象的一组属性，称作属性向量或者特征向量。一个属性的类型是由该属
阅读全文
摘要：评估分类模型性能的方法是：混淆矩阵，其总体思路是统计A类别实例被预测（分类）为B类别的次数。召回率(Recall)和精度(Precise)是广泛用于统计学分类领域的两个度量值，用来评估分类结果的质量。 召回率(Recall Rate，也叫查全率)是检索出的相关文档数和文档库中所有的相关文档数的比率，
阅读全文
摘要：在回归分析中，线性模型的一般预测公式是： 是预测值，读作"y hat"，是特征的线性组合，把向量w称作 coef_（系数），公式是： 把w0称作intercept_（截距），这两个属性是线性模型的共有属性。 一，线性回归 最基本的线性模型是线性回归，也称作最小二乘法（OLS），线性回归的原理是：计算
阅读全文
摘要：sklearn.neighbors 提供了针对无监督和受监督的基于邻居的学习方法的功能。监督的基于最邻近的机器学习算法是值：对带标签的数据的分类和对连续数据的预测（回归）。 无监督的最近算法是许多其他学习方法的基础，尤其是流形学习（manifold learning）和频谱聚类（spectral c
阅读全文
摘要：基于最邻近算法的分类，本质上是对离散的数据标签进行预测，实际上，最邻近算法也可以用于对连续的数据标签进行预测，这种方法叫做基于最邻近数据的回归，预测的值（即数据的标签）是连续值，通过计算数据点最临近数据点平均值而获得预测值。 一，sklearn的knn回归 scikit-learn实现了两个不同的最
阅读全文
摘要：时间序列是在时间点上形成的数值序列，时间序列预测是通过观察历史数据预测未来的值。ARIMA模型（Autoregressive Integrated Moving Average model）是时间序列预测分析方法之一，全称叫做自回归差分移动平均模型。 本文是看网上博客整理而来，原始文章是： 时间序列
阅读全文
摘要：异常值在统计学上的全称是疑似异常值，也称作离群点(outlier)，异常值的分析也称作离群点分析。异常值是指样本中出现的“极端值”，数据值看起来异常大或异常小，其分布明显偏离其余的观测值。异常值分析是检验数据中是否存在不合常理的数据，在数据分析中，既不能忽视异常值的存在，也不能简单地把异常值从数据分
阅读全文
摘要：K最邻近（k-Nearest Neighbors，KNN）分类是一种监督式的分类方法，首先根据已标记的数据对模型进行训练，然后根据模型对新的数据点进行预测，预测新数据点的标签（label），也就是该数据所属的分类。 一，knn算法的逻辑 knn算法的核心思想是：如果一个数据在特征空间中最相邻的k个数
阅读全文
摘要：sklearn.preprocessing包提供了几个常用的转换函数，用于把原始特征向量转换为更适合估计器的表示。 转化器(Transformer)用于对数据的处理，例如标准化、降维以及特征选择等，提供的函数大致是： fit(x,y):该方法接受输入和标签，计算出数据变换的方式。 transform
阅读全文
摘要：机器学习主要用于解决分类、回归和聚类问题，分类属于监督学习算法，是指根据已有的数据和标签（分类的类别）进行学习，预测未知数据的标签。分类问题的目标是预测数据的类别标签（class label），可以把分类问题划分为二分类和多分类问题。二分类是指在两个类别中选择一个类别，在二分类问题中，其中一个类别称
阅读全文
摘要：机器学习算法往往无法直接处理文本数据，需要把文本数据转换为数值型数据，One-Hot表示把文本转换为数值的一种方法。 一，One-Hot表示 One-Hot表示是把语料库中的所有文本进行分词，把所有单词（词汇）收集起来，并对单词进行编号，构建一个词汇表（vocabulary），词汇表是一个字典结构，
阅读全文
摘要：K最近邻(kNN，k-NearestNeighbor)算法是一种监督式的分类方法，但是，它并不存在单独的训练过程，在分类方法中属于惰性学习法，也就是说，当给定一个训练数据集时，惰性学习法简单地存储或稍加处理，并一直等待，直到给定一个检验数据集时，才开始构造模型，以便根据已存储的训练数据集的相似性对检
阅读全文
摘要：变量之间存在着相关关系，比如，人的身高和体重之间存在着关系，一般来说，人高一些，体重要重一些，身高和体重之间存在的是不确定性的相关关系。回归分析是研究相关关系的一种数学工具，它能帮助我们从一个变量的取值区估计另一个变量的取值。 OLS（最小二乘法）主要用于线性回归的参数估计，它的思路很简单，就是求一
阅读全文
摘要：在实际的聚类应用中，通常使用k-均值和k-中心化算法来进行聚类分析，这两种算法都需要输入簇数，为了保证聚类的质量，应该首先确定最佳的簇数，并使用轮廓系数来评估聚类的结果。 一，k-均值法确定最佳的簇数 通常情况下，使用肘方法（elbow）以确定聚类的最佳的簇数，肘方法之所以是有效的，是基于以下观察：
阅读全文
摘要：聚类分析根据对象之间的相异程度，把对象分成多个簇，簇是数据对象的集合，聚类分析使得同一个簇中的对象相似，而与其他簇中的对象相异。相似性和相异性（dissimilarity）是根据数据对象的属性值评估的，通常涉及到距离度量。相似性（similarity）和相异性（dissimilarity）是负相关的
阅读全文
