机器学习笔记之scikit learn基础知识和常用模块
0x00 概述
本文对机器学习scikit-learn包内的常用工具进行基础介绍。
0x01 估计器（Estimator）
可以直接理解成分类器
# 主要包含两个函数：fit(x,y) 和 predict(x)，分别是训练和预测算法
模型流程：
# 拟合模型 model.fit(X_train, y_train) # 模型预测 model.predict(X_test) # 获得这个模型的参数 model.get_params() # 为模型进行打分 model.score(data_X, data_y)
1.1 线性回归LinearRegression
from sklearn.linear_model import LinearRegression # 定义线性回归模型 model = LinearRegression(fit_intercept=True, normalize=False, copy_X=True, n_jobs=1) """ fit_intercept：是否计算截距。False-模型没有截距 normalize： 当fit_intercept设置为False时，该参数将被忽略。 如果为真，则回归前的回归系数X将通过减去平均值并除以l2-范数而归一化。 n_jobs：指定线程数 """
1.2 逻辑回归LogisticRegression
from sklearn.linear_model import LogisticRegression # 定义逻辑回归模型 model = LogisticRegression(penalty=’l2’, dual=False, tol=0.0001, C=1.0, fit_intercept=True, intercept_scaling=1, class_weight=None, random_state=None, solver=’liblinear’, max_iter=100, multi_class=’ovr’, verbose=0, warm_start=False, n_jobs=1) """ penalty：使用指定正则化项（默认：l2） dual: n_samples > n_features取False（默认） C：正则化强度的反，值越小正则化强度越大 n_jobs: 指定线程数 random_state：随机数生成器 fit_intercept: 是否需要常量 """
1.3 朴素贝叶斯naive_bayes
from sklearn import naive_bayes model = naive_bayes.GaussianNB() model = naive_bayes.MultinomialNB(alpha=1.0, fit_prior=True, class_prior=None) model = naive_bayes.BernoulliNB(alpha=1.0, binarize=0.0, fit_prior=True, class_prior=None)
""" alpha：平滑参数 fit_prior：是否要学习类的先验概率；false-使用统一的先验概率 class_prior: 是否指定类的先验概率；若指定则不能根据参数调整 binarize: 二值化的阈值，若为None，则假设输入由二进制向量组成 """
1.4 决策树Tree
from sklearn import tree model = tree.DecisionTreeClassifier(criterion=’gini’, max_depth=None, min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, max_features=None, random_state=None, max_leaf_nodes=None, min_impurity_decrease=0.0, min_impurity_split=None, class_weight=None, presort=False) """ criterion ：特征选择准则gini/entropy max_depth：树的最大深度，None-尽量下分 min_samples_split：分裂内部节点，所需要的最小样本树 min_samples_leaf：叶子节点所需要的最小样本数 max_features: 寻找最优分割点时的最大特征数 max_leaf_nodes：优先增长到最大叶子节点数 min_impurity_decrease：如果这种分离导致杂质的减少大于或等于这个值，则节点将被拆分。 """
1.5 支持向量机SVM
from sklearn.svm import SVC model = SVC(C=1.0, kernel=’rbf’, gamma=’auto’) """ C：误差项的惩罚参数C gamma: 核相关系数。浮点数，If gamma is ‘auto’ then 1/n_features will be used instead. """
1.6 knn最近邻算法neighbors
from sklearn import neighbors #定义kNN分类模型 model = neighbors.KNeighborsClassifier(n_neighbors=5, n_jobs=1) # 分类 model = neighbors.KNeighborsRegressor(n_neighbors=5, n_jobs=1) # 回归 """ n_neighbors： 使用邻居的数目 n_jobs：并行任务数 """
1.7 多层感知器MLPClassifier
from sklearn.neural_network import MLPClassifier # 定义多层感知机分类算法 model = MLPClassifier(activation='relu', solver='adam', alpha=0.0001) """ hidden_layer_sizes: 元祖 activation：激活函数 solver ：优化算法{‘lbfgs’, ‘sgd’, ‘adam’} alpha：L2惩罚(正则化项)参数。 """
1.8 交叉验证cross_val_score
from sklearn.model_selection import cross_val_score cross_val_score(model, X, y=None, scoring=None, cv=None, n_jobs=1) """ model：拟合数据的模型 cv ： k-fold scoring: 打分参数-‘accuracy’、‘f1’、‘precision’、‘recall’ 、‘roc_auc’、'neg_log_loss'等等 """
1.9 检验曲线
from sklearn.model_selection import validation_curve train_score, test_score = validation_curve(model, X, y, param_name, param_range, cv=None, scoring=None, n_jobs=1) """ model:用于fit和predict的对象 X, y: 训练集的特征和标签 param_name：将被改变的参数的名字 param_range： 参数的改变范围 cv：k-fold """
0x02 转换器（Transformer）
用于数据预处理和数据转换
# 主要函数有：transform()，还有fit_transform()将fit()和transform()结合在一起。
2.1 流水线（Pipeline）
流水线的功能：
# 跟踪记录各步骤的操作（以方便地重现实验结果） # 对各步骤进行一个封装 # 确保代码的复杂程度不至于超出掌控范围
基本使用方法
流水线的输入为一连串的数据挖掘步骤，其中最后一步必须是估计器，前几步是转换器。输入的数据集经过转换器的处理后，输出的结果作为下一步的输入。最后，用位于流水线最后一步的估计器对数据进行分类。
每一步都用元组（ ‘名称’，步骤）来表示
scaling_pipeline = Pipeline([ ('scale', MinMaxScaler()), ('predict', KNeighborsClassifier()) ])
2.2 预处理（Preprocessing）
sklearn.preprocessing包
规范化：
# MinMaxScaler :最大最小值规范化 # Normalizer :使每条数据各特征值的和为1 # StandardScaler :为使各特征的均值为0，方差为1
编码：
# LabelEncoder ：把字符串类型的数据转化为整型 # OneHotEncoder ：特征用一个二进制数字来表示 # Binarizer :为将数值型特征的二值化 # MultiLabelBinarizer：多标签二值化
from sklearn import preprocessing # 标准化处理函数 # 将数据转化为标准正态分布（均值为0，方差为1） preprocessing.scale(X,axis=0, with_mean=True, with_std=True, copy=True) # 将数据在缩放在固定区间，默认缩放到区间 [0, 1] preprocessing.minmax_scale(X,feature_range=(0, 1), axis=0, copy=True) # 数据的缩放比例为绝对值最大值，并保留正负号，即在区间 [-1.0, 1.0] 内。唯一可用于稀疏数据 scipy.sparse的标准化 preprocessing.maxabs_scale(X,axis=0, copy=True) # 通过 Interquartile Range (IQR) 标准化数据，即四分之一和四分之三分位点之间 preprocessing.robust_scale(X,axis=0, with_centering=True, with_scaling=True,copy=True) # 标准化正态分布类 #基于mean和std的标准化 class preprocessing.StandardScaler(copy=True, with_mean=True,with_std=True) # 属性： # scale_：ndarray，缩放比例 # mean_：ndarray，均值 # var_：ndarray，方差 # n_samples_seen_：int，已处理的样本个数，调用partial_fit()时会累加，调用fit()会重设 ##########MinMaxScaler############# # 将数据在缩放在固定区间的类，默认缩放到区间 [0, 1] class preprocessing.MinMaxScaler(feature_range=(0, 1),copy=True)： # 属性： # min_：ndarray，缩放后的最小值偏移量 # scale_：ndarray，缩放比例 # data_min_：ndarray，数据最小值 # data_max_：ndarray，数据最大值 # data_range_：ndarray，数据最大最小范围的长度 ##########MaxAbsScaler############## # 数据的缩放比例为绝对值最大值，并保留正负号，即在区间 [-1.0, 1.0] 内。可以用于稀疏数据scipy.sparse class preprocessing.MaxAbsScaler(copy=True)： # 属性： # scale_：ndarray，缩放比例 # max_abs_：ndarray，绝对值最大值 # n_samples_seen_：int，已处理的样本个数 ############RobustScaler################### # 通过 Interquartile Range (IQR) 标准化数据，即四分之一和四分之三分位点之间 classpreprocessing.RobustScaler(with_centering=True,with_scaling=True, copy=True)： # 属性： # center_：ndarray，中心点 # scale_：ndarray，缩放比例 ################# # 生成 kernel 矩阵，用于将 svm kernel 的数据标准化 class preprocessing.KernelCenterer： """ fit(X[,y])：根据数据 X 的值，设置标准化缩放的比例 transform(X[,y, copy])：用之前设置的比例标准化 X fit_transform(X[, y])：根据 X设置标准化缩放比例并标准化 partial_fit(X[,y])：累加性的计算缩放比例 inverse_transform(X[,copy])：将标准化后的数据转换成原数据比例 get_params([deep])：获取参数 set_params(**params)：设置参数 """
0x03 特征工程
主要包括特征提取（Feature Extraction）和特征选择（Feature Selection）
3.1 特征提取（Feature Extraction）
sklearn.select_extraction # DictVectorizer： 将dict类型的list数据，转换成numpy array # FeatureHasher ： 特征哈希，相当于一种降维技巧 # image：图像相关的特征抽取 # text： 文本相关的特征抽取 # text.CountVectorizer：将文本转换为每个词出现的个数的向量 # text.TfidfVectorizer：将文本转换为tfidf值的向量 # text.HashingVectorizer：文本的特征哈希
3.2 特征选择（Feature Selection）
sklearn.feature_selection (1)降低复杂度 (2)降低噪音 (3)增加模型可读性 # VarianceThreshold： 删除特征值的方差达不到最低标准的特征 # SelectKBest： 返回k个最佳特征 # SelectPercentile： 返回表现最佳的前r%个特征
# 单个特征和某一类别之间相关性的计算方法：卡方检验（χ2）、互信息和信息熵
0x04 降维（Decomposition）
主要是PCA
sklearn.decomposition # 主成分分析算法（Principal Component Analysis， PCA）的目的是找到能用较少信息描述数据集的特征组合。它意在发现彼此之间没有相关性、能够描述数据集的特征，同时起到数据压缩作用
0x05 组合（Ensemble）
sklearn.ensemble
通过聚集多个分类器的预测来提高分类准确率
常用的组合分类器方法：
5.1 通过处理训练数据集
即通过某种抽样分布，对原始数据进行再抽样，得到多个训练集。
常用的方法有装袋（bagging）和提升（boosting）。
# 装袋（bagging）： 根据均匀概率分布从数据集中重复抽样（有放回），每个自助样本集和原数据集一样大，每个自助样本集含有原数据集大约63%的数据。训练k个分类器，测试样本被指派到得票最高的类。 # 提升（boosting）： 通过给样本设置不同的权值，每轮迭代调整权值。 不同的提升算法之间的差别，一般是（1）如何更新样本的权值，（2）如何组合每个分类器的预测。 其中Adaboost中，样本权值是增加那些被错误分类的样本的权值，分类器C_i的重要性依赖于它的错误率。 Boosting主要关注降低偏差，因此Boosting能基于泛化性能相当弱的学习器构建出很强的集成；Bagging主要关注降低方差，因此它在不剪枝的决策树、神经网络等学习器上效用更为明显。
偏差指的是算法的期望预测与真实预测之间的偏差程度，反应了模型本身的拟合能力；
方差度量了同等大小的训练集的变动导致学习性能的变化，刻画了数据扰动所导致的影响；
5.2 通过处理输入特征
即通过选择输入特征的子集形成每个训练集。适用于有大量冗余特征的数据集。
随机森林（Random forest）就是一种处理输入特征的组合方法。
5.3 通过处理类标号
适用于多分类的情况，将类标号随机划分成两个不相交的子集，再把问题变为二分类问题，重复构建多次模型，进行分类投票。
BaggingClassifier： #Bagging分类器组合 BaggingRegressor： #Bagging回归器组合 AdaBoostClassifier： #AdaBoost分类器组合 AdaBoostRegressor： #AdaBoost回归器组合 GradientBoostingClassifier：#GradientBoosting分类器组合 GradientBoostingRegressor： #GradientBoosting回归器组合 ExtraTreeClassifier：#ExtraTree分类器组合 ExtraTreeRegressor： #ExtraTree回归器组合 RandomTreeClassifier：#随机森林分类器组合 RandomTreeRegressor： #随机森林回归器组合
0x06 模型评估（度量）Metrics
sklearn.metrics包含评分方法，性能度量，成对度量和距离计算。
6.1 分类结果度量
参数大多是y_true和y_pred。
accuracy_score： # 分类准确度 condusion_matrix ： # 分类混淆矩阵 classification_report： # 分类报告 precision_recall_fscore_support： # 计算精确度、召回率、f、支持率 jaccard_similarity_score： # 计算jcaard相似度 hamming_loss： # 计算汉明损失 zero_one_loss：# 0-1损失 hinge_loss： # 计算hinge损失 log_loss：# 计算log损失 ''' 其中，F1是以每个类别为基础进行定义的，包括两个概念：准确率（precision）和召回率（recall）。 准确率是指预测结果属于某一类的个体，实际属于该类的比例。召回率是被正确预测为某类的个体，与数据集中该类个体总数的比例。F1是准确率和召回率的调和平均数。 '''
6.2 回归结果度量
explained_varicance_score： # 可解释方差的回归评分函数 mean_absolute_error： # 平均绝对误差 mean_squared_error：# 平均平方误差
6.3 多标签的度量
coverage_error： # 涵盖误差 label_ranking_average_precision_score：# 计算基于排名的平均误差Label ranking average precision (LRAP)
6.4 聚类的度量
adjusted_mutual_info_score：# 调整的互信息评分 silhouette_score：# 所有样本的轮廓系数的平均值 silhouette_sample： #所有样本的轮廓系数
0x07 交叉验证（Cross validation）
sklearn.model_selection
model_selection
KFold： # K-Fold交叉验证迭代器。接收元素个数、fold数、是否清洗 LeaveOneOut：# LeaveOneOut交叉验证迭代器 LeavePOut：# LeavePOut交叉验证迭代器 LeaveOneLableOut：# LeaveOneLableOut交叉验证迭代器 LeavePLabelOut：# LeavePLabelOut交叉验证迭代器
# LeaveOneOut(n) 相当于 KFold(n, n_folds=n) 相当于LeavePOut(n, p=1)， # LeaveP和LeaveOne差别在于leave的个数，也就是测试集的尺寸， # LeavePLabel和LeaveOneLabel差别在于leave的Label的种类的个数。
其他方法 train_test_split：# 分离训练集和测试集（不是K-Fold） cross_val_score：# 交叉验证评分，可以指认cv为上面的类的实例 cross_val_predict：# 交叉验证的预测
# 将数据集分为训练集和测试集 from sklearn.mode_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # arrays：样本数组，包含特征向量和标签 # test_size： # float-获得多大比重的测试样本 （默认：0.25） # int - 获得多少个测试样本 # train_size: 同test_size # random_state: int - 随机种子（种子固定，实验可复现） # shuffle - 是否在分割之前对数据进行洗牌（默认True）
0x08 网格搜索
网格搜索最佳参数 sklearn.model_selection
from sklearn.model_selection import GridSearchCV
Tuning the hyper-parameters of an estimator
GridSearchCV：# 搜索指定参数网格中的最佳参数 ParameterGrid：# 参数网格 ParameterSampler：# 用给定分布生成参数的生成器 RandomizedSearchCV：# 超参的随机搜索 通过best_estimator_.get_params()方法，获取最佳参数
0x09 多标签分类
sklearn.multiclass
Multiclass
OneVsRestClassifier：# 1-rest多分类（多标签）策略 OneVsOneClassifier：# 1-1多分类策略 OutputCodeClassifier：# 1个类用一个二进制码表示
0x10 模型保存
# 保存为pickle文件 import pickle # 保存模型 with open('model.pickle', 'wb') as f: pickle.dump(model, f) # 读取模型 with open('model.pickle', 'rb') as f: model = pickle.load(f) model.predict(X_test) ################################################# # sklearn自带方法joblib from sklearn.externals import joblib # 保存模型 joblib.dump(model, 'model.pickle') #载入模型 model = joblib.load('model.pickle')
0x1A 主要模块分类
1.sklearn.base: Base classes and utility function基础实用函数 2.sklearn.cluster: Clustering聚类 3.sklearn.cluster.bicluster: Biclustering 双向聚类 4.sklearn.covariance: Covariance Estimators 协方差估计 5.sklearn.model_selection: Model Selection 模型选择 6.sklearn.datasets: Datasets 数据集 7.sklearn.decomposition: Matrix Decomposition 矩阵分解 8.sklearn.dummy: Dummy estimators 虚拟估计 9.sklearn.ensemble: Ensemble Methods 集成方法 10.sklearn.exceptions: Exceptions and warnings 异常和警告 11.sklearn.feature_extraction: Feature Extraction 特征抽取 12.sklearn.feature_selection: Feature Selection 特征选择 13。sklearn.gaussian_process: Gaussian Processes 高斯过程 14.sklearn.isotonic: Isotonic regression 保序回归 15.sklearn.kernel_approximation: Kernel Approximation 核 逼近 16.sklearn.kernel_ridge: Kernel Ridge Regression 岭回归ridge 17.sklearn.discriminant_analysis: Discriminant Analysis 判别分析 18.sklearn.linear_model: Generalized Linear Models 广义线性模型 19.sklearn.manifold: Manifold Learning 流形学习 20.sklearn.metrics: Metrics 度量 权值 21.sklearn.mixture: Gaussian Mixture Models 高斯混合模型 22.sklearn.multiclass: Multiclass and multilabel classification 多等级标签分类 23.sklearn.multioutput: Multioutput regression and classification 多元回归和分类 24.sklearn.naive_bayes: Naive Bayes 朴素贝叶斯 25.sklearn.neighbors: Nearest Neighbors 最近邻 26.sklearn.neural_network: Neural network models 神经网络 27.sklearn.calibration: Probability Calibration 概率校准 28.sklearn.cross_decomposition: Cross decomposition 交叉求解 29.sklearn.pipeline: Pipeline 管道 30.sklearn.preprocessing: Preprocessing and Normalization 预处理和标准化 31.sklearn.random_projection: Random projection 随机映射 32.sklearn.semi_supervised: Semi-Supervised Learning 半监督学习 33.sklearn.svm: Support Vector Machines 支持向量机 34.sklearn.tree: Decision Tree 决策树 35.sklearn.utils: Utilities 实用工具
0x1B 转载
