《机器学习理论、方法及应用》研读(1)

第一章 机器学习概述

机器学习的概念

• 学习：可以从不同角度对学习给出解释，但是都包含了知识获取和能力改善这两个主要方面。因此给学习如下一般的解释：学习是一个有特定目的的知识获取和能力增长过程，其内在行为是获得知识、积累经验发现规律等，其外部表现是改进性能、适应环境、实现自我完善等。
• 机器学习：机器学习是一门研究怎样用计算机来模拟或实现人类学习活动的学科，是计算机科学、数学、心理学、生物学和哲学等多门学科的交叉。

机器学习的发展历史

• 第一阶段，是20世纪50年代中叶到60年代中叶属于热烈时期。
• 第二阶段，是在20世纪60年代中叶到70年代中叶被称为机器学习的冷静时期。
• 第三阶段，从20世纪七十年代中叶到80年代中叶称为复兴时期。
• 第四阶段，从20世纪80年代中叶到现在是机器学习的最新阶段。

机器学习的分类

• 基于学习策略的分类：模拟人脑的机器学习，包括符号学习和神经网络学习；直接采用数学方法的机器学习。
• 基于学习方法的分类：归纳学习：包括符号归纳学习和函数归纳学习；演绎学习；类比学习；分析学习。
• 基于学习方式的分类：监督学习；无监督学习；强化学习。
• 基于数据形式的分类：结构化学习和无结构化学习。
• 基于学习目标的分离：概念学习；规则学习；函数学习；类别学习；贝叶斯网络学习。

机器学习的主要策略

1.基于神经网络的学习

神经网络的分类

• 根据人工网络对生物神经系统的不同组织层次和抽象层次的模拟，神经模型可分为：
  • 神经元层次模型
  • 组合式模型
  • 网络层次模型
  • 神经系统层次模型
• 根据连接方式的不同，神经模型可分为：
  • 前向网络
  • 反馈网络
  • 相互结合型网络
  • 混合型网络

神经网络的学习

• 监督学习
• 无监督学习

神经网络的研究内容

• 神经网络理论研究
• 神经网络实现技术研究
• 神经网络应用研究

2.进化学习

• 遗传算法
• 进化策略
• 进化规划
• 分布估计算法

3.强化学习

• 基于离散化方法的连续空间强化学习
• 基于函数逼近法的连续空间强化学习