随机过程笔记

1，相关：两个变量完全没关系，叫独立，如果关系越来越大，相关程度就越来越高，所以相关是研究两个变量之间的互相影响程度，用E(XY)衡量，算出的值大说明相关程度高，值小说明相关程度低。

2，相关函数：在随机过程领域，样本随时间变化，我们要研究的就是两个时间点的样本有多相关。

比如今天的股票收盘价X(t1)与明天股票开盘价X(t2)的相关程度到底有多高，这就可以用相关函数表示：E(X(t1)X(t2)) = R_X(t1,t2)，相关函数就是算随机过程在两个时刻上的相关程度。

随机过程的期望E(X(t))，还是用连续型随机变量求期望的公式。相关函数就是两个时刻的随机变量的期望。

3，宽平稳使相关函数变为一元：如何把相关函数的二元变成一元从而简化问题呢？我们做个假设，叫做平稳stationary ，是指这个随机过程的某种统计性质随着时间的发展变化不发生改变的一种性质。

针对不同的统计性质有不同的平稳，所以平稳的种类很多。这门课讲四种，第一种就是针对相关这个统计性质的平稳，也叫宽平稳。

比如两个时刻代表的两个随机变量，在这两个时刻上的相关，只依赖于他们之间的相对位置，和绝对位置没关系，即

R_X(t1,t2)=R_X(t2-t1)=R_X(涛)

我们希望相关函数不随时间流逝发生变化，

E(X(t1+T)X(t2+T)) = R_X(t1,t2)，T是任意增加的时间。

4，相关函数的性质：

R_X(0)>=0，这是某个时刻与这时刻自身的相关

R_X(t)=R_X(-t)，相关函数是偶函数

R_X(t)<=R_X(0)

存在涛，使R_X(涛)=R_X(0)，则任给时刻t，都有R_X(t+涛)=R_X(t)。局部有往复，一定是周期。

相关函数是正定的，就是取值是正的。

5，多元相关

两个随机变量之间做相关，这相当于在衡量两者之间的某种关联关系，这种关联关系可以从两个角度来理解，一个是统计的角度：他们是在做乘积之后的平均。另一个是几何的角度：他们是在衡量两个随机变量之间的夹角。相关刻画的是两个随机变量在多大程度上可以被相互线性表述，因此它是一种比较简单的关系——线性关系。通过相关我们可以定义相关函数，从而对随机过程形成认知，如果我们能够对随机过程假定宽平稳性，那么它的相关函数就会变得比较简单，就可以变成一元函数。

6，随机微积分。

X随机变量是个函数，他表示样本点映射到数轴上，我们知道大部份样本点都在均值附近。

当样本点非常多时，随机变量作为一个函数，也收敛于一个函数值。

X_n几乎处处收敛于X，P(X_n→X)=1，收敛符号作用于随机变量本身上-典型应用：强大数定律

X_n依概率收敛于X，P(｜X_n-X｜>=埃普西隆)→0，收敛符号作用于概率上-典型应用：弱大数定律

X_n依分布收敛于X，F_X_n(x)→F_X(x)，收敛符号作用于分布函数上-典型应用：中心极限定理

X_n均方收敛于X，E｜X_n-X｜^2→0，收敛符号作用于矩上。

7，随机过程主要关注随机变量之间的关联，而随机变量之间的关联更多是从一些特殊的例子体现的，最重要的例子有三个，相关，马尔可夫性质，鞅。

接下来讲了高斯过程(这是一个针对相关的一个特殊的随机过程，它完全由相关所确定，因为它由一阶矩二阶矩确定)，布朗运动，泊松过程(最简单的马尔可夫过程)，马尔可夫过程。