家乐的深度学习笔记「1」 - 深度学习简介
引言
开个坑，记录我自己的深度学习路程，没有目标，没有方向，走一步看一步，期待有朝一日能够对整个领域有一个粗浅的理解。
机器学习
定义：计算机基于数据来构建概率统计模型并运用模型对数据进行预测与分析的一门学科。
从以上定义可知：
- 机器学习以计算机及网络为平台，是建立在计算机及网络之上的；
- 机器学习以数据为研究对象。
- 机器学习的目的是对数据进行预测与分析
- 机器学习以模型为中心。构建模型、优化模型并用模型来进行预测。
- 机器学习的模型是基于概率统计的模型。里面大量用到了概率与统计的知识。
- 机器学习也是信息论 、计算理论、最优化理论及计算机科学等多个领域的交叉学科，并且在发展中逐步形成独立的理论体系与方法论。
机器学习的方法
机器学习的方法是基于数据构建统计模型从而对数据进行预测与分析。机器学习包括了监督学习、非监督学习、半监督学习和强化学习。
监督学习：从给定的、有限的、用于学习的训练数据（training data）集合出发，假设数据是独立同分布产生的；并且假设要学习的模型属于某个函数集合，这个函数集合称为假设空间（hypothesis space）；应用某个评价准则，从假设空间中先取一个最优的模型，使它对已知训练数据及未知测试数据在给定的评价准则下有最优的预测；最优模型的选择由算法实现。
三要素
模型的假设空间、模型的选择准则以及模型学习的算法构成了机器学习的三要素，简称模型、策略、算法。
一般步骤
- 得到一个有限的训练数据集合；
- 确定包含所有可能的模型的假设空间，即学习模型的集合；
- 确定模型选择的准则，即学习策略；
- 实现求解最优模型的算法，即学习的算法；
- 通常学习方法选择最优模型；
- 利用学习的最优模型对新数据进行预测或分析。
机器学习与深度学习的关系
机器学习研究如何使计算机系统利用经验改善性能。它是人工智能领域的分支，也是实现人工智能的一种手段。
在机器学习的众多研究方向中，表征学习关注如何自动找出表示数据的合适方式，以便更好地将输入变换为正确的输出，而深度学习是具有多级表示的表征学习方法。
从原始数据开始的每一级中，深度学习通过简单的函数将该级的表示变换为更高级的表示，即逐级表示越来越抽象的概念或模式。
因此，深度学习模型也可以看作是由许多简单函数复合而成的函数。当这些复合函数足够多时，深度学习模型就可以表达非常复杂的变换。
参考
《动手学深度学习》 / 阿斯顿·张、李沐等著
https://www.cnblogs.com/ronny/p/4062658.html
