python常用库 - NumPy 和 sklearn入门

　　Numpy 和 scikit-learn 都是python常用的第三方库。numpy库可以用来存储和处理大型矩阵，并且在一定程度上弥补了python在运算效率上的不足，正是因为numpy的存在使得python成为数值计算领域的一大利器；sklearn是python著名的机器学习库，它其中封装了大量的机器学习算法，内置了大量的公开数据集，并且拥有完善的文档，因此成为目前最受欢迎的机器学习学习与实践的工具。

1. NumPy库

首先导入Numpy库

import numpy as np

 1.1 numpy.array 与 list

a = [1,2,3,4,5,6] # python内置数组结构
b = np.array(a) # numpy数组结构

 

python有内置数组结构（list），我们为什么还要使用numpy的数组结构呢？为了回答这个问题，我们先来看看python内置的数组结构有什么样的特点。我们在使用list的时候会发现，list数组中保存的数据类型是不用相同的，可以是字符串、可以是整型数据、甚至可以是个类实例。这种存储方式很使用，为我们使用带来了很多遍历，但是它也承担了消耗大量内存的缺陷或不足。为什么这么说呢？实际上list数组中的每个元素的存储都需要1个指针和1个数据，也就是说list中保存的其实是数据的存放地址（指针），它比原生态的数组多了一个存放指针的内存消耗。因此，当我们想去减少内存消耗时，不妨将list替换成np.array，这样会节省不少的空间，并且Numpy数组是执行更快数值计算的优秀容器。

1.2 numpy常用操作

创建数组

np.array([1,2,3]) # 创建一维数组
np.asarray([1,2,3])
np.array([1,2,3], [4,5,6]) # 创建多维数组

np.zeros((3, 2)) # 3行2列 全0矩阵
np.ones((3, 2)) #全1矩阵
np.full((3, 2), 5) # 3行2列全部填充5

 

np.array 和 np.asarray 的区别：

def asarray(a, dtype=None, order=None):
    return array(a, dtype, copy=False, order=order)

 

可见，它们区别主要在于： array会复制出一个新的对象，占用一份新的内存空间，而asarray不会执行这一操作。array类似深拷贝，asarray类似浅拷贝。

数值计算

基础计算

arr1 = np.array([[1,2,3], [4,5,6]])
arr2 = np.array([[6,5], [4,3], [2,1]])

# 查看arr维度
print(arr1.shape) # (2, 3)

#切片 
np.array([1,2,3,4,5,6])[:3]  #array([1,2,3])
arr1[0:2,0:2] # 二维切片

#乘法
np.array([1,2,3]) * np.array([2,3,4]) # 对应元素相乘 array([2,6,  12])
arr1.dot(b) # 矩阵乘法

#矩阵求和
np.sum(arr1)  # 所有元素之和 21
np.sum(arr1, axis=0) #列求和 array([5, 7, 9])
np.sum(arr1, axis=1) # 行求和 array([ 6, 15])

# 最大最小
np.max(arr1, axis=0/1)
np.min(a, axis=0/1)

 

进阶计算

arr = np.array([[1,2], [3,4], [5,6]])

#布尔型数组访问方式
print((arr>2))
    """
    [[False False]
     [ True  True]
     [ True  True]]
    """
print(arr[arr>2]) # [3 4 5 6]

#修改形状
arr.reshape(2,3)
    """    
    array([[1, 2, 3],
       [4, 5, 6]])
    """
arr.flatten() # 摊平 array([1, 2, 3, 4, 5, 6])
arr.T # 转置

 

2. sklearn库

　　若你想快速使用sklearn，我的另一篇博客应该可以满足您的需求，点击跳转：《ML神器：sklearn的快速使用》

　　sklearn是python的重要机器学习库，其中封装了大量的机器学习算法，如：分类、回归、降维以及聚类；还包含了监督学习、非监督学习、数据变换三大模块。sklearn拥有完善的文档，使得它具有了上手容易的优势；并它内置了大量的数据集，节省了获取和整理数据集的时间。因而，使其成为了广泛应用的重要的机器学习库。下面简单介绍一下sklearn下的常用方法。

监督学习

 

sklearn.neighbors #近邻算法
sklearn.svm #支持向量机
sklearn.kernel_ridge #核-岭回归
sklearn.discriminant_analysis #判别分析
sklearn.linear_model #广义线性模型

sklearn.ensemble #集成学习
sklearn.tree #决策树
sklearn.naive_bayes #朴素贝叶斯
sklearn.cross_decomposition #交叉分解
sklearn.gaussian_process #高斯过程

sklearn.neural_network #神经网络
sklearn.calibration #概率校准
sklearn.isotonic #保守回归
sklearn.feature_selection #特征选择
sklearn.multiclass #多类多标签算法

 

以上的每个模型都包含多个算法，在调用时直接import即可，譬如：

from sklearn.linear_model import LogisticRefression
lr_model = LogisticRegression()

无监督学习

sklearn.decomposition #矩阵因子分解
sklearn.cluster # 聚类
sklearn.manifold # 流形学习
sklearn.mixture # 高斯混合模型
sklearn.neural_network # 无监督神经网络
sklearn.covariance # 协方差估计

数据变换

sklearn.feature_extraction # 特征提取
sklearn.feature_selection # 特征选择
sklearn.preprocessing # 预处理
sklearn.random_projection # 随机投影
sklearn.kernel_approximation # 核逼近

数据集

　　

　　

 此外，sklearn还有统一的API接口，我们通常可以通过使用完全相同的接口来实现不同的机器学习算法，一般实现流程：

　　step1. 数据加载和预处理

　　step2. 定义分类器, 比如： lr_model = LogisticRegression()

　　step3. 使用训练集训练模型 ： lr_model.fit(X,Y)

　　step4. 使用训练好的模型进行预测： y_pred = lr_model.predict(X_test)

　　step5. 对模型进行性能评估：lr_model.score(X_test, y_test)

 常见命令：

1. 数据集分割

# 作用：将数据集划分为 训练集和测试集
# 格式：train_test_split(*arrays, **options)
from sklearn.mode_selection import train_test_split
X, y = np.arange(10).reshape((5, 2)), range(5)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=42)
"""
参数
---
arrays：样本数组，包含特征向量和标签

test_size：
　　float-获得多大比重的测试样本 （默认：0.25）
　　int - 获得多少个测试样本

train_size: 同test_size

random_state:
　　int - 随机种子（种子固定，实验可复现）
　　
shuffle - 是否在分割之前对数据进行洗牌（默认True）

返回
---
分割后的列表，长度=2*len(arrays), 
　　(train-test split)
"""