Siucaan

摘要： softmax分类器这篇文章介绍如何使用一个简单的多层感知机和softmax分类器对MNIST数据集进行分类。1. 使用内建的函数加载MNIST数据from tensorflow.examples.tutorials.mnist import input_datamn... 阅读全文

摘要： 极力推荐深度学习入门的文章，原文链接。零基础入门深度学习(1) - 感知器 零基础入门深度学习(2) - 线性单元和梯度下降 零基础入门深度学习(3) - 神经网络和反向传播算法 零基础入门深度学习(4) - 卷积神经网络 零基础入门深度学习(5) - 循环神... 阅读全文

摘要： LSTM BASICSunderstand the benefits and problems it solves, and its inner workings and calculations. 1.The Problem to be SolvedRNN’s Pr... 阅读全文

摘要： 《机器学习》周志华 读书笔记1. 间隔与支持向量给定样本集，在样本空间中找到一超平面将不同的类别的数据划分开。我们希望能够找到两类样本“正中间”的那个超平面。因为那个超平面的容忍度最好，鲁棒性最好。 超平面方程可使用下面的线性方程来描述： wTx+b=0" role=... 阅读全文

摘要： 周志华《机器学习》笔记1.贝叶斯决策简介贝叶斯决策是基于所有相关概率已知情况下，结合误判损失来选择最优的类别标记的一种决策方法。 假设有N种可能的标记，λij" role="presentation">λijλij是将一个真实标记为ci" role="p... 阅读全文

摘要： 由于无法把非神经网络分类器在tensorflow框架中搭建，想把神经网络的输出概率用到其他的非神经网络的分类其中，这就需要把神经网络中保存的参数提取出来。由于神经网络是基于图的计算，有自己的保存方式，我们不能随意保存和提取其中的参数。下面是使用一个pywrap_ten... 阅读全文

摘要： 1. lr里面公式为什么用e？在线性回归中，我们用模型的预测值y^" role="presentation">ŷ y^逼近样本的真实值y，相当于让wTx+b" role="presentation">wTx+bwTx+b逼近y。 但是在实际应用中，我们... 阅读全文

摘要： 1.为什么引入非线性激励函数？因为如果不用非线性激励函数，每一层都是上一层的线性函数，无论神经网络多少层，输出都是输入的线性组合，与只有一个隐藏层效果一样。相当于多层感知机了。所以引入非线性激励函数，深层网络就变得有意义了，可以逼近任意函数。2.常用的激励函数1）si... 阅读全文

摘要： 1. 数据的预处理方法有哪些？常用的有白化，去均值，归一化和PCA。 可参考这里。2.数据的归一化方法有哪些？常用的归一化方法：线性归一化和0均值标准化 线性归一化将数据转换到[0,1]之间： Xnorm=X−XminXmax−Xmin" ... 阅读全文

摘要： 1.池化的作用是什么？（1） invariance(不变性)，这种不变性包括translation(平移)，rotation(旋转)，scale(尺度) （2） 保留主要的特征同时减少参数(降维，效果类似PCA)和计算量，防止过拟合，提高模型泛化能力2.神经网络的损... 阅读全文