摘要:
第0步:初始化一些参数和常数第1步:利用训练样本集训练第一个稀疏编码器第2步:利用训练样本集训练第二个稀疏编码器第3步:利用第二个稀疏编码器提取到的特征训练softmax回归模型第4步:利用误差反向传播进行微调第5步:利用测试样本集对得到的分类器进行精度测试下面将程序实现过程中的关键代码post出,... 阅读全文
摘要:
多层自编码器由多个稀疏自编码器和一个Softmax分类器构成;(其中,每个稀疏自编码器的权值可以利用无标签训练样本得到, Softmax分类器参数可由有标签训练样本得到)多层自编码器微调是指将多层自编码器看做是一个多层的神经网络,利用有标签的训练样本集,对该神经网络的权值进行调整。1多层自编码器的结... 阅读全文
摘要:
梯度检验是在编写机器学习算法时必备的技术,可以检验所编写的cost函数是否正确cost函数的主要功能是:计算代价函数、计算代价函数对参数的梯度实际程序中,梯度检验要配合cost函数一起使用,可以将该部分单独放在一个测试函数checkCost() 中 ① 给定一组样本及参数初始值 ② 利用cost函数... 阅读全文