摘要：
前言 随机过程讨论的是随机变量随时间的变化情况，根据统计时间节点的连续与否和随机变量变化的连续与否可分为以下四种类型： · 连续型随机过程：变量连续、时间节点连续 · 离散型随机过程：变量离散、时间节点连续 · 连续随机序列：变量连续、时间节点离散 · 离散随机序列：变量离散、时间节点离散 本篇文章 阅读全文
摘要：
对偶问题的出现 这里主要介绍约束优化问题的对偶形式，要说为什么出现对偶可能是因为原问题的对偶问题一定是凸规划。 约束优化问题的一般形式： $$ \begin{matrix} min f(x)\ s.t. g_i(x)\geqslant 0, i=1,...,m)\ h_j(x)=0, j=2,... 阅读全文
摘要：
回顾 前边内容主要总结了无约束优化问题的求解步骤，即如何找一个函数的极大值，其中凸函数具备的良好性质保证局部最优解是全局最优解。一般通过最速下降法、牛顿法、共轭梯度法进行求解（针对这些方法的不足也有很多改进）。接下来主要总结在定义域有约束时，函数的优化问题。 约束优化问题 数学模型 优化目标为：\( 阅读全文
摘要：
故事继续从选定方向的选定步长讲起 首先是下降最快的方向 -- 负梯度方向衍生出来的最速下降法 最速下降法 顾名思义，选择最快下降。包含两层意思：选择下降最快的方向，在这一方向上寻找最好的步长。到达后在下一个点重复该步骤。定方向 选步长 前进... 优化问题的模型：\(min f(x)\) 其中$f$ 阅读全文
摘要：
本篇是对自己学习《最优化方法》的一些脉络、思路的记载，夹杂自己的一点点思考。 之前讲到求函数的局部最优，凸函数则为全局最优的基本判别条件（参见之前的最优化方法课程总结一）。知道基本原理后，自然要实际操作计算。本篇主要是对解决思路的概述和一些方法的介绍 优化问题的求解概述 一般求解方法有解析法、图解法 阅读全文
摘要：
重采样 重采样的主要方法有残差重采样、多项式重采样、最优重采样、分层重采样和最优传输重采样等。 （说实话我还没搞清楚和信号处理那边差不多的上下重采样之类之间的关系） 这篇文章介绍的重采样是针对之前提到的蒙特卡罗序列采样时为了避免重要性权重过大导致小部分粒子占据大部分权重，选择用粒子数目来表示比例的一 阅读全文
摘要：
发现网上看到的序列蒙特卡罗的中文理解很少，就稍微整理一下自己看到的，欢迎讨论~ 内容引入 许多现实世界的数据分析任务都涉及从一些给定的观察数据中估计预测未知的数据。大多数应用场景下可以使用一些先验知识来辅助建模，即贝叶斯模型【通过未知量的先验分布以及与这些量与观测值相关的似然函数得到后验分布来刻画和 阅读全文
摘要：
注：本节内容是对Sutton的《Reinforcement Learning: An introduction》第九章的理解整理~ 这里是第四、五节 上节讲到使用函数逼近状态值时使用的优化方法，随机梯度法可以用来求解各种函数最值。最简单的莫过于**线性关系！**近似函数是权值向量$w$的线性函数。 阅读全文
摘要：
本篇是对自己学习《最优化方法》的一些脉络、思路的记载，也有可能会有一点点思考。 贯穿本学期课程的主要内容实际上是泰勒公式和线性系统的择一性。当然主要是因为线性情况比较好求解，且任何函数取局部都可以线性近似，解决线性问题具有一般意义。 泰勒公式 一般来讲 ，泰勒公式展开只需要用到二阶即可。其本质意义在 阅读全文
摘要：
很多游戏、实际问题等的结构都和图有关，在图结构中寻找最优解也就是在图结构中进行搜索。有搜索自然就有广度优先、深度优先和启发式搜索三种方式。 广度优先 顾名思义，先从广度开始：检查完一个结点的全部后继结点才会开始搜索新的结点的后继结点。在实际实施过程中，经常使用队列结构来存储访问结点（先进先出） 一般 阅读全文