【转】Scikit-learn技巧（拓展）总结

最近看了《Python数据挖掘入门与实战》，网上有说翻译地不好的，但是说实话，我觉得这本书还是相当不错的。作者Robert Layton是sklearn的开发者之一，书中介绍了很多sklearn使用的技巧和拓展的方法。这里就书中关于sklearn的部分，还有自己学习sklearn的知识，我做一个总结的笔记。另外，我也想把这篇笔记一直更新下去。


《Python数据挖掘入门与实战》.png

1 scikit-learn基础介绍

1.1 估计器（Estimator）

估计器，很多时候可以直接理解成分类器，主要包含两个函数：

  • fit()：训练算法，设置内部参数。接收训练集和类别两个参数。
  • predict()：预测测试集类别，参数为测试集。
    大多数scikit-learn估计器接收和输出的数据格式均为numpy数组或类似格式。

1.2 转换器（Transformer）

转换器用于数据预处理和数据转换，主要是三个方法：

  • fit()：训练算法，设置内部参数。
  • transform()：数据转换。
  • fit_transform()：合并fit和transform两个方法。

1.3 流水线（Pipeline）

sklearn.pipeline包

流水线的功能：

  • 跟踪记录各步骤的操作（以方便地重现实验结果）
  • 对各步骤进行一个封装
  • 确保代码的复杂程度不至于超出掌控范围

基本使用方法

流水线的输入为一连串的数据挖掘步骤，其中最后一步必须是估计器，前几步是转换器。输入的数据集经过转换器的处理后，输出的结果作为下一步的输入。最后，用位于流水线最后一步的估计器对数据进行分类。
每一步都用元组（ ‘名称’，步骤）来表示。现在来创建流水线。

scaling_pipeline = Pipeline([
  ('scale', MinMaxScaler()),
  ('predict', KNeighborsClassifier())
])

1.4 预处理

主要在sklearn.preprcessing包下。

规范化：

  • MinMaxScaler :最大最小值规范化
  • Normalizer :使每条数据各特征值的和为1
  • StandardScaler :为使各特征的均值为0，方差为1
  • Binarizer :为将数值型特征的二值化

编码：

  • LabelEncoder :把字符串类型的数据转化为整型
  • OneHotEncoder :特征用一个二进制数字来表示

1.5 特征

1.5.1 特征抽取

包：sklearn.feature_extraction
特征抽取是数据挖掘任务最为重要的一个环节，一般而言，它对最终结果的影响要高过数据挖掘算法本身。只有先把现实用特征表示出来，才能借助数据挖掘的力量找到问题的答案。特征选择的另一个优点在于：降低真实世界的复杂度，模型比现实更容易操纵。
一般最常使用的特征抽取技术都是高度针对具体领域的，对于特定的领域，如图像处理，在过去一段时间已经开发了各种特征抽取的技术，但这些技术在其他领域的应用却非常有限。

  • DictVectorizer： 将dict类型的list数据，转换成numpy array
  • FeatureHasher ： 特征哈希，相当于一种降维技巧
  • image：图像相关的特征抽取
  • text： 文本相关的特征抽取
  • text.CountVectorizer：将文本转换为每个词出现的个数的向量
  • text.TfidfVectorizer：将文本转换为tfidf值的向量
  • text.HashingVectorizer：文本的特征哈希

示例


data.png


CountVectorize只数出现个数


count.png

hash.png


TfidfVectorizer：个数+归一化


tfidf(without idf).png

1.5.2 特征选择

包：sklearn.feature_selection
特征选择的原因如下：
(1)降低复杂度
(2)降低噪音
(3)增加模型可读性

  • VarianceThreshold： 删除特征值的方差达不到最低标准的特征
  • SelectKBest： 返回k个最佳特征
  • SelectPercentile： 返回表现最佳的前r%个特征

单个特征和某一类别之间相关性的计算方法有很多。最常用的有卡方检验（χ2）。其他方法还有互信息和信息熵。

  • chi2： 卡方检验（χ2）

1.6 降维

包：sklearn.decomposition

  • 主成分分析算法（Principal Component Analysis， PCA）的目的是找到能用较少信息描述数据集的特征组合。它意在发现彼此之间没有相关性、能够描述数据集的特征，确切说这些特征的方差跟整体方差没有多大差距，这样的特征也被称为主成分。这也就意味着，借助这种方法，就能通过更少的特征捕获到数据集的大部分信息。

1.7 组合

包：sklearn.ensemble
组合技术即通过聚集多个分类器的预测来提高分类准确率。
常用的组合分类器方法：
(1)通过处理训练数据集。即通过某种抽样分布，对原始数据进行再抽样，得到多个训练集。常用的方法有装袋（bagging）和提升（boosting）。
(2)通过处理输入特征。即通过选择输入特征的子集形成每个训练集。适用于有大量冗余特征的数据集。随机森林（Random forest）就是一种处理输入特征的组合方法。
(3)通过处理类标号。适用于多分类的情况，将类标号随机划分成两个不相交的子集，再把问题变为二分类问题，重复构建多次模型，进行分类投票。

1.8 模型评估（度量）

包：sklearn.metrics
sklearn.metrics包含评分方法、性能度量、成对度量和距离计算。
分类结果度量
参数大多是y_true和y_pred。

  • accuracy_score：分类准确度
  • condusion_matrix ：分类混淆矩阵
  • classification_report：分类报告
  • precision_recall_fscore_wupport：计算精确度、召回率、f、支持率
  • jaccard_similarity_score：计算jcaard相似度
  • hamming_loss：计算汉明损失
  • zero_one_loss：0-1损失
  • hinge_loss：计算hinge损失
  • log_loss：计算log损失

回归结果度量

  • explained_varicance_score：可解释方差的回归评分函数
  • mean_absolute_error：平均绝对误差
  • mean_squared_error：平均平方误差

多标签的度量

  • coverage_error：涵盖误差
  • label_ranking_average_precision_score：计算基于排名的平均误差Label ranking average precision (LRAP)

聚类的度量

  • adjusted_mutual_info_score：调整的互信息评分
  • silhouette_score：所有样本的轮廓系数的平均值
  • silhouette_sample：所有样本的轮廓系数

2 具体模型

2.1 朴素贝叶斯（Naive Bayes）

包：sklearn.naive_bayes


朴素贝叶斯.png


朴素贝叶斯的特点是分类速度快，分类效果不一定是最好的。

  • GasussianNB：高斯分布的朴素贝叶斯
  • MultinomialNB：多项式分布的朴素贝叶斯
  • BernoulliNB：伯努利分布的朴素贝叶斯

所谓使用什么分布的朴素贝叶斯，就是假设P(x_i|y)是符合哪一种分布，比如可以假设其服从高斯分布，然后用最大似然法估计高斯分布的参数。


高斯分布.png

多项式分布.png

伯努利分布.png

3 scikit-learn扩展

3.0 概览

具体的扩展，通常要继承sklearn.base包下的类。

  • BaseEstimator： 估计器的基类
  • ClassifierMixin ：分类器的混合类
  • ClusterMixin：聚类器的混合类
  • RegressorMixin ：回归器的混合类
  • TransformerMixin ：转换器的混合类

关于什么是Mixin（混合类），具体可以看这个知乎链接。简单地理解，就是带有实现方法的接口，可以将其看做是组合模式的一种实现。举个例子，比如说常用的TfidfTransformer，继承了BaseEstimator， TransformerMixin，因此它的基本功能就是单一职责的估计器和转换器的组合。

3.1 创建自己的转换器

在特征抽取的时候，经常会发现自己的一些数据预处理的方法，sklearn里可能没有实现，但若直接在数据上改，又容易将代码弄得混乱，难以重现实验。这个时候最好自己创建一个转换器，在后面将这个转换器放到pipeline里，统一管理。
例如《Python数据挖掘入门与实战》书中的例子，我们想接收一个numpy数组，根据其均值将其离散化，任何高于均值的特征值替换为1，小于或等于均值的替换为0。
代码实现：

from sklearn.base import TransformerMixin
from sklearn.utils import as_float_array

class MeanDiscrete(TransformerMixin):

  #计算出数据集的均值，用内部变量保存该值。  
  def fit(self, X, y=None):
        X = as_float_array(X)
        self.mean = np.mean(X, axis=0)
        #返回self，确保在转换器中能够进行链式调用（例如调用transformer.fit(X).transform(X)）
        return self

    def transform(self, X):
        X = as_float_array(X)
        assert X.shape[1] == self.mean.shape[0]
        return X > self.mean



文／Cer_ml（简书作者）
原文链接：http://www.jianshu.com/p/516f009c0875
著作权归作者所有，转载请联系作者获得授权，并标注“简书作者”。
posted @ 2016-09-04 10:36  启铭星  阅读(12432)  评论(0)  编辑  收藏  举报