深度学习——历史及意义

参考文献：深度学习

 

历史：

2006年，Hinton给出了突破的一步。

2013年，李彦宏高调宣布成立深度学习研究院。

目前，很多领域的state-of-the-art被深度学习占领。

 

意义：

通常，传统的方法需要手动提取特征：

虽然，现在有许多牛逼的特征，如sift、hog特征，但是，手动提取特征很不方面，也不够“mechine learning”。另外，对于一个给定的问题，你要选择什么特征？你是挨个试试还是多练然后总结出一套经验？很显然，这种“mechine learning”让人怀疑。于是

深度学习出来了。

两种经典的例子：

CNN(有监督学习)

RBN(无监督学习)

为什么这么好的东西，未来如此美妙的东西，自己还是犹豫那么久不去学呢？太保守了！！！这种死板的思想！！My bro 每天催我学，自己太幸福了。奋斗吧！

生物仿生

它的思想来源于人脑的神经元连接。这个知道就行了，生物的东西总是让人难以捉摸。

另外，用了下图这种类比的特征提取。实际上，我想，这和人脑的提取方式不同，人脑先像素->器官->部位->大部分->整个人，深度学习也类比这样，只是这种分层应该不同于人脑，它可能提取电脑自己识别的特征，然后分层而已。