机器学习作业15--手写数字识别-小数据集

1.手写数字数据集

• from sklearn.datasets import load_digits
• digits = load_digits()

实验代码：

import matplotlib.pyplot as plt
import numpy as np
from sklearn.datasets import load_digits
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import MinMaxScaler
from sklearn.preprocessing import OneHotEncoder
import tensorflow as tf
from sklearn.metrics import accuracy_score

digits = load_digits()
X_data = digits.data.astype(np.float32)
Y_data = digits.target.astype(np.float32).reshape(-1, 1)  # 将y_data变为一列

 

2.图片数据预处理

• x：归一化MinMaxScaler()
• y：独热编码OneHotEncoder()或to_categorical
• 训练集测试集划分
• 张量结构

实验代码：

scaler = MinMaxScaler()
X_data = scaler.fit_transform(X_data)  # 归一化
print("MinMaxScaler_trans_X_data:")
print(X_data)

Y = OneHotEncoder().fit_transform(Y_data).todense()  #独热编码
print("one-hot_Y:")
print(Y)

# 转化为图片格式
X = X_data.reshape(-1, 8, 8, 1)

X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=0.2, random_state=0, stratify=Y)
print(X_train.shape, X_test.shape, y_train.shape, y_test.shape)

 

 实验结果：

 

3.设计卷积神经网络结构

• 绘制模型结构图，并说明设计依据。

模型结构图：

 

 设计依据：

　　模型一共有7层，每层包含众多参数。

　　首先，输入层输入原始图像，原始图像被处理成32×32个像素点的值。然后，后面的隐层计在卷积和子抽样之间交替进行。第一层卷积层，每个映射是8x8个神经元。卷积核是3×3，下面还有一个池化层，它将局部像素值平均化来实现子抽样。

　　因为卷积层与池化层是交替出现的，所以隐藏层的第三层又是一个卷积层，第二个卷积层，每个映射是4x4个神经元，每个特征映射用于加权和计算的卷积核为3x3的。第四个隐藏层，也就是第二个池化层，每个特征映射中所用的卷积核是3x3的。

　　第三个卷积层，每个映射是2x2个神经元，每个特征映射用于加权和计算的卷积核为3x3的。

　　第四个卷积层，每个映射是2x2个神经元，每个特征映射用于加权和计算的卷积核为3x3的。

　　接下来有一个平坦层，用于从卷积层到全连接层的过渡。

　　之后的最后一层便是全连接层，包含了128个特征图。全连接层中对输入进行点积之后加入偏置，然后经过一个激活函数传输给输出层的神经元。最后一层，也就是第七层，为了得到输出向量，设置了十个神经元来进行分类，相当于输出一个包含十个元素的一维数组，向量中的十个元素即0到9。

 

实验代码：

# 导入相关包
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Dropout, Flatten, Conv2D, MaxPool2D

# 建立模型
model = Sequential()

ks = (3, 3)
ips = X_train.shape[1:]

# 一层卷积
model.add(
     Conv2D(
         filters=16,
         kernel_size=ks,
         padding='same',  # 保证卷积核大小，不够补零
         input_shape=ips,
         activation='relu'))
# 池化层1
model.add(MaxPool2D(pool_size=(2, 2)))

# 二层卷积
model.add(
     Conv2D(
         filters=32,
         kernel_size=ks,  # 卷积核的大小
         padding='same',  # 保证卷积核大小，不够补零
         activation='relu'))
# 池化层2
model.add(MaxPool2D(pool_size=(2, 2)))
model.add(Dropout(0.25))

# 三层卷积
model.add(Conv2D(filters=64, kernel_size=ks, padding='same', activation='relu'))
# 四层卷积
model.add(Conv2D(filters=128, kernel_size=ks, padding='same', activation='relu'))
# 池化层（3）
model.add(MaxPool2D(pool_size=(2, 2)))
model.add(Dropout(0.25))

model.add(Flatten())  # 平坦层
model.add(Dense(128, activation='relu'))  # 全连接层
model.add(Dropout(0.25))
model.add(Dense(10, activation='softmax')) # 激活函数

model.summary()

 

实验结果：

 

 

4.模型训练

• model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])
• train_history = model.fit(x=X_train,y=y_train,validation_split=0.2, batch_size=300,epochs=10,verbose=2)

实验代码：

# 模型训练
model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])
train_history = model.fit(x=X_train, y=y_train, validation_split=0.2, batch_size=300, epochs=10, verbose=2)

# 可视化绘图
def show_train_history(train_history, train, validation):
    plt.plot(train_history.history[train])
    plt.plot(train_history.history[validation])
    plt.title('Train History')
    plt.ylabel('train')
    plt.xlabel('epoch')
    plt.legend(['train', 'validation'], loc='upper left')
    plt.show()
# 准确率
show_train_history(train_history, 'accuracy', 'val_accuracy')
# 损失率
show_train_history(train_history, 'loss', 'val_loss')

 

实验结果：

 

 

 

5.模型评价

• model.evaluate()
• 交叉表与交叉矩阵
• pandas.crosstab
• seaborn.heatmap

实验代码：

# 模型评价
import pandas as pd
import seaborn as sns
score = model.evaluate(X_test, y_test)
print('准确率为：', score)
y_pre = model.predict_classes(X_test)
print('y_pred：', y_pre[:10])
# 交叉表与交叉矩阵
y_test1 = np.argmax(y_test, axis=1).reshape(-1)
y_true = np.array(y_test1)[0]
# 与原数据对比
pd.crosstab(y_true, y_pre, rownames=['true'], colnames=['predict'])
# 交叉矩阵
y_test1 = y_test1.tolist()[0]
a = pd.crosstab(np.array(y_test1), y_pre, rownames=['Lables'], colnames=['Predict'])
df = pd.DataFrame(a)
sns.heatmap(df, annot=True, cmap="Reds", linewidths=0.2, linecolor='G')
plt.show()

实验结果：