UFLDL_自学笔记#1
昨晚上和牛老师谈了谈,牛老师决定带我做project了,当然,我是非常珍惜这个来之不易的机会的,所以,我一定得好好的抓住这次机会。牛老师给我的近期任务就是学习RNN和LSTM。
虽然,这两个东西对我来说都是想当陌生的,我在先前的ML和DL的学习中并没有接触过这两个概念,那么,从现在开始,我打算先从UFLDL Turorial开始进行学习。下面提供两个网址:
一个是中文教程,一个是英文教程,个人更加推荐读者使用英文的教程,毕竟今后的大量文献阅读都是借助英文。。。
中文地址:http://ufldl.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B
英文地址:http://ufldl.stanford.edu/wiki/index.php/UFLDL_Tutorial
好了,闲话不多说,打算每天都坚持阅读UFLDL,并且在这里做下相关的笔记来和大家一起分享和学习,如果有对于ML和DL有相关兴趣的同学和朋友,可以私信我加我Q,和我一同进行这方面的研究和学习,我是非常乐意于和别人进行讨论和学习的。
稀疏自编码器(Sparse Autoencoder):
首先,先要引入神经网络的概念,有了神经网络的概念,我们才能对其中的东西进行进一步的分析和理解。
以监督学习为例,假设我们有训练样本集 ,那么神经网络算法能够提供一种复杂且非线性的假设模型
,它具有参数
,可以以此参数来拟合我们的数据。
为了描述神经网络,我们先从最简单的神经网络讲起,这个神经网络仅由一个“神经元”构成,以下即是这个“神经元”的图示:
![\textstyle x_1, x_2, x_3](http://ufldl.stanford.edu/wiki/images/math/3/c/b/3cb2ab026a8bb3279a30485c2220a5a4.png)
![\textstyle +1](http://ufldl.stanford.edu/wiki/images/math/d/c/b/dcb8dd3d14a2c0aa9b06ec6ce4ec0d59.png)
![\textstyle h_{W,b}(x) = f(W^Tx) = f(\sum_{i=1}^3 W_{i}x_i +b)](http://ufldl.stanford.edu/wiki/images/math/8/9/f/89f1f9e549b908834d9fedca36d07bd4.png)
![\textstyle f : \Re \mapsto \Re](http://ufldl.stanford.edu/wiki/images/math/5/d/f/5df2a707a6b2421afcb345f96051297e.png)
![\textstyle f(\cdot)](http://ufldl.stanford.edu/wiki/images/math/0/3/0/0303dd697c0e1b72185d7939f9870784.png)
![f(z) = \frac{1}{1+\exp(-z)}.](http://ufldl.stanford.edu/wiki/images/math/c/e/5/ce5df10952ab30aa868f44db2f77486b.png)
![f(z) = \tanh(z) = \frac{e^z - e^{-z}}{e^z + e^{-z}},](http://ufldl.stanford.edu/wiki/images/math/a/9/0/a9025d0884453bd5898c9681e871b3fb.png)
神经网络模型:
所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一个“神经元”的输入。例如,下图就是一个简单的神经网络:
我们使用圆圈来表示神经网络的输入,标上“”的圆圈被称为偏置节点,也就是截距项。神经网络最左边的一层叫做输入层,最右的一层叫做输出层(本例中,输出层只有一个节点)。中间所有节点组成的一层叫做隐藏层,因为我们不能在训练样本集中观测到它们的值。同时可以看到,以上神经网络的例子中有3个输入单元(偏置单元不计在内),3个隐藏单元及一个输出单元。
我们用 来表示网络的层数,本例中
,我们将第
层记为
,于是
是输入层,输出层是
。本例神经网络有参数
,其中
(下面的式子中用到)是第
层第
单元与第
层第
单元之间的联接参数(其实就是连接线上的权重,注意标号顺序),
是第
层第
单元的偏置项。因此在本例中,
,
。注意,没有其他单元连向偏置单元(即偏置单元没有输入),因为它们总是输出
。同时,我们用
表示第
层的节点数(偏置单元不计在内)。
我们用 表示第
层第
单元的激活值(输出值)。当
时,
,也就是第
个输入值(输入值的第
个特征)。对于给定参数集合
,我们的神经网络就可以按照函数
来计算输出结果。本例神经网络的计算步骤如下:
我们用 表示第
层第
单元输入加权和(包括偏置单元),比如,
,则
。
这样我们就可以得到一种更简洁的表示法。这里我们将激活函数 扩展为用向量(分量的形式)来表示,即
,那么,上面的等式可以更简洁地表示为:
我们将上面的计算步骤叫作前向传播。回想一下,之前我们用 表示输入层的激活值,那么给定第
层的激活值
后,第
层的激活值
就可以按照下面步骤计算得到:
将参数矩阵化,使用矩阵-向量运算方式,我们就可以利用线性代数的优势对神经网络进行快速求解。
目前为止,我们讨论了一种神经网络,我们也可以构建另一种结构的神经网络(这里结构指的是神经元之间的联接模式),也就是包含多个隐藏层的神经网络。最常见的一个例子是 层的神经网络,第
层是输入层,第
层是输出层,中间的每个层
与层
紧密相联。这种模式下,要计算神经网络的输出结果,我们可以按照之前描述的等式,按部就班,进行前向传播,逐一计算第
层的所有激活值,然后是第
层的激活值,以此类推,直到第
层。这是一个前馈神经网络的例子,因为这种联接图没有闭环或回路。
神经网络也可以有多个输出单元。比如,下面的神经网络有两层隐藏层: 及
,输出层
有两个输出单元。
要求解这样的神经网络,需要样本集 ,其中
。如果你想预测的输出是多个的,那这种神经网络很适用。(比如,在医疗诊断应用中,患者的体征指标就可以作为向量的输入值,而不同的输出值
可以表示不同的疾病存在与否。)