day2021_10_02
今日内容
- 完成了西瓜书第12章与第13章的学习
- 经验误差与泛化误差:
- 经验误差:已知数据集上的误差,但经验误差最好的情况不一定是我们所需要的
- 泛化误差:全局数据集上的误差
- 计算想学习理论:研究经验误差与泛化误差之间的逼近程度,泛化误差是我们的追求目标,经验误差是我们在已有数据集上的表现,两者之间的逼近程度反映了模型的可用程度。
- PAC(概率近似正确)可学习,
以较大概率学习到预设误差上限的模型。 - 有限假设空间:
- 假设空间H包含了学习算法所有可能输出的假设,一般H越大,包含的目标概念的可能性越大,但是这样从H中找到某个目标概念的难度越大。所以一般在H有限时讨论问题。
- 有限假设空间分为可分与不可分两类。
- 还有增长函数、对分、打散、vc维等概念的学习。
- 半监督学习:
- 纯半监督学习:假定训练数据的未标记样本并非待预测的数据,希望学得得模型能适用于训练过程中未观测到的数据
- 直推学习: 假定训练数据的未标记样本是待测数据,学习的目的就是在这些未标记样本上获得最优泛化性能。仅试图对学习过程中观察到的未标记数据进行预测。
- 主动学习:通过有标记的数据习得模型,再对未标记数据进行预测后,基于专家经验,优化模型。
遇到的困难
暂无
明日计划
- 完成第13章跟第14章内容的学习。