摘要:
今日内容 完成概率图模型以及强化学习的重点复习 \(\epsilon\)-贪心:基于一个概率来对探索和利用进行折中:每次尝试时,以$\epsilon$的概率进行探索,以均匀概率随机选取一个摇臂,以1-$\epsilon$的概率进行利用,即选择当前平均奖赏最高的摇臂 比如图上有五个摇臂,有100次摇臂 阅读全文
摘要:
今日内容 完成了西瓜书第16章的学习,并回顾了之前几张内容 TSVM(针对二分类问题): 试图考虑对未标记样本进行各种可能的标记指派,尝试将每个未标记样本分别作为正例反例,然后对所有这些结果中,寻求一个在所有样本(包括有标记样本和进行了标记指派的未标记样本)上间隔最大化的超平面,一旦超平面得以确定, 阅读全文
摘要:
今日内容 完成了西瓜书第12章与第13章的学习 经验误差与泛化误差: 经验误差:已知数据集上的误差,但经验误差最好的情况不一定是我们所需要的 泛化误差:全局数据集上的误差 计算想学习理论:研究经验误差与泛化误差之间的逼近程度,泛化误差是我们的追求目标,经验误差是我们在已有数据集上的表现,两者之间的逼 阅读全文
摘要:
今日内容 下午完成了两道算法课后题,其他时间就有课程。 遇到的困难 算法题解题效率没那么高 明日计划 后面打算不是非常忙的情况下,leetcode每天一道或者两天一道 庆祝国庆 阅读全文
摘要:
今日内容 范数 L0范数:||X||0=X i,即向量X中非零的个数 如:X=(1,2,-1,4,6)^T,则||X||0=4 L1范数: ||X||1,即向量x与0的曼哈顿距离, X=(1,2,-1,0,4,6)^T ,||X||1=1+2+1+4+6=14 可以得到稀疏解 L2范数:||X||2 阅读全文
摘要:
今日内容 西瓜书第十章内容的阅读 k邻近学习(kNN):给定测试样本,基于某种距离度量找出训练集中与最靠近的k个训练样本,然后通过这k个“邻居”判断该测试样本属于何种标签,可以常用投票法判断 主成分分析:一种常用的降维方法,将一个高维的样本集用一个超平面对其进行恰当的表达,该超平面需要有一下性质: 阅读全文
摘要:
今日内容 完成了西瓜书第八章、第九章的学习 第八章 集成学习:将多个个体学习器通过某种策略结合起来,得到一个具有更强泛化能力的学习器。 集成学习要求个体学习器要有一定的准确性,学习器之间也要有差异 boosting算法:个体学习器之间存在较强的依赖关系,必须串行生成序列化的方法。先从训练集训练出一个 阅读全文
摘要:
今日内容 西瓜书第三章与第四章的内容学习 第三章线性模型: 线性回归 对数几率回归 线性判别分析(LDA) 给定训练集,设法将训练集投影到一条直线上,使得同类的投影点尽可能近(同类投影点的协方差尽可能小),不同类的尽可能远(不同类的投影点集合的中心距离相差尽可能远),达到分类的目的。下图中左图的投影 阅读全文
摘要:
今日内容 西瓜书第二章节,几种评估方法和性能度量的几个度量名词的学习 评估方法有“留出法”、“交叉验证法”以及“自助法”(适合样本较小的情况) 交叉验证法:将数据集D分成k份大小相同的训练集/测试集。比如第一次取第一份作为测试集,其他k-1份作为 训练集,第二次取第二份作为测试集,其他k-1份作为训 阅读全文
摘要:
当日进展 解决了算法课后题,有学习到c++二维动态数组的创建,以及用malloc与new两种方式创建的不同,尤其是malloc第一次创建数组分配的内存空间不超过1024块。 将西瓜书绪论看了一遍,开始补充第一章中出现的公式需要的数学知识,完成了对各种函数期望与方差的复习。 二元分布函数以及其边缘分布 阅读全文