第一章 深度学习导论

•  整个花书的思维导图：

 

 机器学习：让计算机使用算法从数据中提取模式和特征。

 

 

注解：

1. 分类：如给一张图片，判别里面都有什么东西。预测一个离散的类别。
2. 回归：如根据面积和地段做房价预测。如预测股票价格。预测一个连续的值。
3. 聚类：按照数据的自相似性，把数据聚类成不同的簇。
4. 降维：把高维数据降到低维，特别是降到人类能理解的3维或者2维，然后看它的分布。

 做分类的算法：

 

 

 深度学习：用深度神经网络来解决机器学习问题。

下图是卷积神经网络进行图像分类的一个案例。

注解：

1. 把像素信息变为语义信息。

 

 

•  深度学习和机器学习的关系：

深度学习是要解决机器学习问题，所以机器学习包含深度学习，深度学习的圈是在机器学习的大圈儿里面的。

逻辑回归是一个二分类问题，用sigmoid函数去映射，大于0.5分为一类，小于0.5分为另一类。

MLPs:多层感知器也叫做前馈神经网络，也叫做全连接神经网络。

现代的深度学习和以前的深度学习的区别：卷积神经网络可以从(图像)数据中自动提取特征，不需要人工设计特征。

• 深度学习用词的演变：

 

蓝色线：控制论

绿色线：联结主义，后期叫做神经网络、深度学习

 

 

•  数据：

 

 

Hinton称MNIST数据集[10分类手写数字数据集]是深度学习领域科学家做深度学习实验的果蝇载体。(在生物领域，道尔顿用果蝇做遗传学实验。)

 

 

 

 

有两个重要的节点是2012年和二零一五年，2012年AlexNet的作者首先将卷积神经网络应用于图像分类里面，相比于去年的进展是飞跃性的。2015年，微软亚洲研究院的研究员何凯明、任少卿、孙剑提出的深度残差网络对图像的分类识别准确率首次超越人类。到了2017年，李飞飞认为图像分类问题已经解决了，所以Imagenet图像分类竞赛比赛杀青。