15 手写数字识别-小数据集

# 训练模型
# 损失函数:categorical_crossentropy,优化器:adam ,用准确率accuracy衡量模型
model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])
# 划分20%作为验证数据,每次训练300个数据,训练迭代300轮
train_history = model.fit(x=X_train, y=y_train, validation_split=0.2, batch_size=300, epochs=300, verbose=2)

 

1.手写数字数据集

• from sklearn.datasets import load_digits
• digits = load_digits()

（1）获取的数据集：

 

（2）提取的x值：

 

 

 

 

 

2.图片数据预处理

• x：归一化MinMaxScaler()
• y：独热编码OneHotEncoder()或to_categorical
• 训练集测试集划分
• 张量结构

（1）x值归一化：

 

 

 

 

 （2）将x转换为图片维数

 

（3）对y值进行onehot处理

 

 

 

 

 （4）模型切割

from sklearn.model_selection import train_test_split  #模型切割
# 划分训练集与测试集
X_train, X_test, y_train, y_test = train_test_split(X1, Y, test_size=0.2, random_state=0, stratify=Y)

3.设计卷积神经网络结构

• 绘制模型结构图，并说明设计依据。

模型结构图：

模型选择：

（1）此次才用经典模型中的vggnet模型，图片结构为（8,8,1）所以可以设置三层池化，通过反复堆叠3*3的小型卷积核和2*2的最大池化层完成，整个网络有4层卷积，每一层的卷积核数量依次为：16,32,64128。

（2）都使用了同样大小的卷积核尺寸（3*3）和最大池化尺寸（2*2），卷积过程使用"SAME"模式，所以不改变feature map的分辨率。

（3）网络通过2*2的池化核以及stride=1的步长，每一次可以分辨率降低到原来的1/4，即长宽变为原来的1/2。

from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Dropout, Flatten, Conv2D, MaxPool2D
# 4、建立堆积模型
model = Sequential()
ks = (3,3)  # 定义一个三行三列的卷积核
input_shape = X_train.shape[1:] # 获取图片的维数
# 第一层卷积，卷积核个数为16，卷积核大小3*3，移动步长默认为1，模式为same模式(卷积前后尺寸 一样)
# 第一层输入数据时需指定数据的维度input_shape8*8*1 ,选用relu激活函数relu对于随机梯度下降的收敛有巨大的加速作用，只需要一个阈值就可以得到激活值
model.add(Conv2D(filters=16, kernel_size=ks, padding='same', input_shape=input_shape, activation='relu'))
# 第一层池化层，缩小到1/4维度
model.add(MaxPool2D(pool_size=(2, 2)))
# 防止过拟合，随机丢掉连接25%的连接
model.add(Dropout(0.25))
# 第二次卷积 卷积核个数为32，卷积核大小3*3，移动步长默认为1，模式为same模式
model.add(Conv2D(filters=32, kernel_size=ks, padding='same', activation='relu'))
# 第二层池化
model.add(MaxPool2D(pool_size=(2, 2)))
model.add(Dropout(0.25))
# 第三层卷积
model.add(Conv2D(filters=64, kernel_size=ks, padding='same', activation='relu'))
# 第四层卷积压缩图片
model.add(Conv2D(filters=128, kernel_size=ks, padding='same', activation='relu'))
# 第三层池化
model.add(MaxPool2D(pool_size=(2, 2)))
model.add(Dropout(0.25))
# 平坦层
model.add(Flatten())
# 全连接层
model.add(Dense(128, activation='relu'))
model.add(Dropout(0.25))
# 激活函数softmax
model.add(Dense(10, activation='softmax'))
print(model.summary())

 

4.模型训练

# 训练模型
# 损失函数:categorical_crossentropy,优化器:adam ,用准确率accuracy衡量模型
model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])
# 划分20%作为验证数据,每次训练300个数据,训练迭代300轮
train_history = model.fit(x=X_train, y=y_train, validation_split=0.2, batch_size=300, epochs=300, verbose=2)

（1）训练结果：

 

 

 

 

 

（2）准确率随次数的变化曲线图

 

 

 

 

 （3）损失值随次数的变化曲线

 

 

 

 

从图中可见训练迭代次数在200次左右，准确率最高，损失值最小，模型效果最好。

5.模型评价

• model.evaluate()
• 交叉表与交叉矩阵
• pandas.crosstab
• seaborn.heatmap