深度学习-零基础实践 读书笔记

 

# 人工智能、机器学习、深度学习三者关系示意图

三者关系： 人工智能  >  机器学习  >  深度学习

 

【人工智能】：研发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。

 

 

【机器学习】：计算机如何模拟实现人类的学习行为，以获得新知识或技能，重新组织已有的知识结构，使之不断该改善自身的性能。

 

图1.3 确定模型参数示意图

 

 

图1.4 机器执行学习的框架

 

 

 图1.5 机器学习就是拟合一个“大公式”

 

   

【深度学习】：相比传统的机器学习算法两者在理论结构上是一致的，即：模型假设、评价函数和优化算法，其根本差别在于假设的复杂度。如 图1.5 第二个示例（图像识别）所示，对于对于美女照片，人脑可以接收到五颜六色的光学信号，能快速反应出这张图片是一位美女，而且是程序员喜欢的类型。但对计算机而言，只能接收到一个数字矩阵，对于美女这种高级的语义概念，从像素到高级语义概念中间要经历的信息变换的复杂性是难以想象的，如图1.6所示

 

图1.6 深度学习的模型复杂度难以想象

 

图1.7 神经网络基本结构示意图

 

 

深度学习的发展历程

 

 

ICLR

international conference on learning representations  国际表征学习大会（简称：ICLR），是深度学习领域的顶级会议

 

ICML

International Conference on Machine Learning的缩写，即国际机器学习大会。ICML如今已发展为由国际机器学习学会（IMLS）主办的年度机器学习国际顶级会议。

 

KDD

Knowledge Discovery in Database 数据挖掘国际顶会KDD

 

CVPR

CVPR是IEEE Conference on Computer Vision and Pattern Recognition的缩写，即IEEE国际计算机视觉与模式识别会议

 

EMNLP

EMNLP是由国际语言学会（ACL）下属的SIGDAT小组主办的自然语言处理领域的顶级国际会议，在计算语言学类别下影响力排名全球第二

图1.9 深度学习相关论文数量逐年增长

 

 

图1.10：以深度学习为基础的AI技术在各行业广泛应用 （数据来自艾瑞咨询的研究报告）

 

 以深度学习为基础的人工智能技术，在升级改造众多的传统行业领域，存在极其广阔的应用场景。图1.10 选自艾瑞咨询的研究报告，人工智能技术不仅可在众多行业中落地应用（广度），同时，在部分行业（如安防、遥感、互联网、金融、工业等）已经实现了市场化变现和高速增长（深度），为社会贡献了巨大的经济价值。

 

图1.11：以深度学习为基础的AI技术在各行业广泛应用

 

 如图1.11所示，以计算机视觉的行业应用分布为例，根据IDC的数据统计和预测，随着人工智能向各个行业的渗透，当前较多运用人工智能的互联网行业的产值占比反而会逐渐变小。

 

  深度学习不仅实现了模型的端到端学习，还推动了人工智能进入工业大生产阶段，产生了标准化、自动化和模块化的通用框架。不同场景的深度学习模型具备一定的通用性，五个步骤即可完成模型的构建和训练，如 图1.16所示。

 

图1.16 构建神经网络/深度学习模型的基本步骤