第十一章 平稳过程
11.1 严平稳过程
11.1.1 严平稳过程的定义
对于任意实数 \(\varepsilon\)，如果随机过程 \(\{X(t), t\in T\}\) 的任意 \(n\) 维分布满足：
\[\begin{aligned}
& F(x_1, x_2, ..., x_n; t_1, t_2, ..., t_n)\\
= & F(x_1, x_2, ..., x_n; t_1 + \varepsilon, t_2 + \varepsilon, ..., t_n + \varepsilon)
\end{aligned}
\quad
(n = 1, 2, ...)
\]
（严平稳条件）
则 \(X(t)\) 称为严，强或狭义平稳过程。
若参数 \(t\) 表示“时间”，则严平稳过程的任何有限维概率分布不随时间的平移而变化。
11.1.2 严平稳过程的性质
- 状态离散的随机过程 \(X(t)\) 的严平稳条件
\[\begin{aligned}
& P\{X(t_1) = x_1, X(t_2) = x_2, ..., X(t_n) = x_n \}\\
= & P\{X(t_1 + \varepsilon) = x_1, X(t_2+\varepsilon) = x_2, ..., X(t_n+\varepsilon) = x_n \}
\end{aligned}
\]
- 状态连续的随机过程 \(X(t)\) 的严平稳条件
\[f(x_1, ..., x_n; t_1, ..., t_n) =
f(x_1, ..., x_n; t_1 + \varepsilon, ..., t_n + \varepsilon)
\]
- 特殊地，取 \(\varepsilon = -t_1, t_2 - t_1 = \tau\)
\[F(x_1; t_1) = F(x_1; t_1 + \varepsilon) =
F(x_1; 0) = F(x_1)
\]
\[\begin{aligned}
F(x_1, x_2; t_1; t_2) &= F(x_1, x_2; t_1+\varepsilon,t_2+\varepsilon)\\
& = F(x_1, x_2; 0, \tau)\\
& = F(x_1, x_2, \tau)
\end{aligned}
\]
-
一维分布函数 \(F(x)\)：不依赖于参数 \(t\)
-
二维分布函数 \(F(x_1, x_2; \tau)\)：仅依赖于参数间距 \(\tau = t_2 - t_1\)，而与 \(t_1, t_2\) 本身无关
11.2.3 严平稳过程的数字特征
\[\begin{aligned}
& \mu_X(t) = E[X(t)]
= \int_{-\infty}^{+\infty}xf(x)\,dx
= \mu_X\\
& \Psi_X^2(t) = E[X^2(t)]
= \int_{-\infty}^{+\infty}x^2f(x)\,dx
= \Psi^2_X\\
& \sigma^2_X(t) = D[X(t)]
= \Psi_X^2 - \mu_X^2
= \sigma_X^2
\end{aligned}
\]
\[\begin{aligned}
R(t, t + \tau)
& = E[X(t)X(t+\tau)]\\
& = \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}x_1x_2f(x_1, x_2; \tau)\,dx_1dx_2\\
& = R_X(\tau)
\end{aligned}
\]
\[\begin{aligned}
C_X(t, t+\tau) & = R(t, t + \tau) - \mu_X(t)\mu_X(t+\tau)\\
& = R_X(\tau) - \mu^2_X = C_X(\tau)
\end{aligned}
\]
定理
设 \(\{X(t), t\in T\}\) 是严平稳过程，如果过程的二阶矩存在，那么
- \(\mu_X, \sigma_X^2, \Psi_X^2\) 均为常数，与参数 \(t\) 无关；
- \(R_X(\tau), C_X(\tau)\) 仅依赖于 \(\tau\)
注：
这一性质也称为数字特征的平稳性
11.2 宽平稳过程
11.2.1 宽平稳过程的定义
设随机过程 \(X(t)\)，对于任意 \(t\in T\)，满足：
- \(E[X^2(t)]<+\infty\)
- \(E[X(t)] = \mu_X\) 是常数
- \(E[X(t)X(t+\tau)] = R_X(\tau)\) 仅依赖于 \(\tau\)，而与 \(t\) 无关
则称 \(X(t)\) 为宽，弱或广义平稳过程，简称平稳过程。
参数集 \(T\) 为可列集的平稳过程，又称为平稳序列，或称平稳时间序列。
11.2.2 严平稳过程与宽平稳过程的关系
- 宽平稳过程不一定是严平稳过程
- 严平稳过程不一定是宽平稳过程
二阶矩 \(E[X^2(t)]<+\infty\) 存在的随机过程称为二阶矩过程。
两个平稳过程的关系：平稳相关
设 \(\{X(t), t \in T_1\}\) 和 \(\{Y(t), t \in T_2\}\) 是两个平稳过程，如果互相关函数 \(E[X(t)Y(t+\tau)]=R_{XY}(\tau)\) 仅是参数间距 \(\tau\) 的函数，则称 \(\{X(t), t \in T_1\}\) 和 \(\{Y(t), t \in T_2\}\) 平稳相关，或称它们是联合平稳的。此时：
\[\begin{aligned}
C_{XY}(\tau)
& = \mathrm{cov}(X(t), Y(t+\tau))\\
& = E[X(t)Y(t+\tau)]-E[X(t)]E[Y(t+\tau)]\\
& = R_{XY}(\tau) - \mu_X\mu_Y
\end{aligned}
\]
定义：
\[\rho_{XY}(\tau) = \dfrac{C_{XY}(\tau)}{\sqrt{C_X(0)\cdot C_Y(0)}}
\]
称为标准互协方差函数。
11.3 正态平稳过程
11.3.1 正态过程的概念
1. 正态随机变量的有关知识
一维正态随机变量 \(X\sim N(\mu, \sigma^2)\)，概率密度
\[f(x)=\dfrac{1}{\sigma\sqrt{2\pi}}
\exp\{-\dfrac{(x-\mu)^2}{2\sigma^2}\}
\]
二维正态随机变量 \((X,Y)\sim N(\mu_1,\sigma_1^2; \mu^2, \sigma_2^2; \rho)\)
\[f(x, y) =\ \dfrac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}
\exp\{-\dfrac{1}{2(1-\rho^2)}
[\dfrac{(x-\mu_1)^2}{\sigma^2_1}
-\dfrac{2\rho(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}
+\dfrac{(y-\mu_2)^2}{\sigma_2^2}]\}
\]
\(n\) 维正态分布 \((X_1, X_2, ..., X_n)\) 的概率密度
\[f(x_1, x_2, ..., x_n) =
\dfrac{1}{(2\pi)^{\frac{n}{2}}(\det C)^{\frac{1}{2}}}
\exp\{-\dfrac{1}{2}(x-\mu)^T C^{-1} (x-\mu) \}
\]
其中：
\[x =
\left(
\begin{array}
&x_1\\x_2\\\vdots\\x_n
\end{array}
\right)
\quad
\mu =
\left(
\begin{array}
$\mu_1\\\mu_2\\\vdots\\\mu_n
\end{array}
\right)
\]
协方差矩阵 \(C=(C_{ij})_{n\times n}\quad C_{ij} = Cov(X_i, X_j)\)
2. 正态过程的定义
如果随机过程 \(\{X(t), t\in T\}\)，对任意正整数 \(n\)，\(\forall t_1, t_2, ..., t_n \in T\)，\((X(t_1), X(t_2), ..., X(t_n))\) 服从正态分布，则称 \(X(t)\) 为 正态过程，又称高斯(Gauss)过程。
3.
设 \(\{X(t), t \in T\}\) 为正态过程，则：
\[\begin{aligned}
& \forall t_1 \in T,
X(t_1) \sim N(\mu_X (t_1), \sigma^2_X(t_1))\\
& \forall t_1, t_2 \in T,
(X(t_1),X(t_2)) \sim N (\mu_X(t_1), \sigma^2_X(t_1); \mu_X(t_2), \sigma^2_X(t_2); \rho)
\end{aligned}
\]
\[\rho = \dfrac{C_X(t_1, t_2)}
{\sqrt{\sigma^2_X(t_1)}
\cdot\sqrt{\sigma^2_X(t_2)}}
\]
4. 独立正态过程：
如果 \(\{X(t), t \in T\}\) 是正态过程，同时又是独立过程，则称 \(X(t)\) 为独立正态过程。
5.
正态过程 \(\{X(t), t \in T\}\)，如果 \(T\) 是可列集，\(T=\{t_1, t_2, ..., t_n, ...\}\)，记 \(X(t)=X_t\)，那么 \(\{X_t, t = t_1, t_2, ..., t_n, ...\}\) 是正态序列。
6. 正态过程是二阶矩过程
设 \(\{X(t), t \in T\}\) 是正态过程，\(X(t)\) 服从正态分布，则：
\[\Psi^2_X(t) = E[X^2(t)]
\]
必存在，即二阶矩存在。
11.3.2 正态平稳过程
1. 定义
如果正态过程 \(X(t)\) 又是（广义）平稳过程，则称 \(X(t)\) 为正态平稳过程。
2. 定理
设 \(X(t)\) 是正态过程，则 \(X(t)\) 为严平稳过程 \(\Leftrightarrow\) 宽平稳过程。
11.4 遍历过程（经历过程）
11.4.1 时间均值和时间相关函数
设随机过程 \(\{X(t), t\in T = (-\infty, +\infty)\}\)
固定 \(e\in S\)，样本函数 \(X(e,t)=x(t)\)，\(x(t)\) 在区间 \([-l,l]\;(l>0)\) 上的函数平均值定义为：
\[\overline{x(t)} = \dfrac{1}{2l}\int^l_{-l}x(t)\,dt
\]
\(x(t)\) 在 \((-\infty, +\infty)\) 上的函数平均值定义为：
\[\overline{x(t)} = \lim\limits_{l \to +\infty}
\dfrac{1}{2l}\int^l_{-l}x(t)\,dt
\]
当 \(e\) 变化时，
\[\overline{x(t)} = \overline{X(e,t)} = \lim\limits_{l \to +\infty}
\dfrac{1}{2l}\int^l_{-l}X(e, t)\,dt
\]
是随机过程 \(X(t)\) 对于参数 \(t\) 的平均值，称为随机过程 \(X(t)\)的时间均值。
\(\forall t, \tau \in (-\infty, +\infty)\)，有：
\[\begin{aligned}
\overline{X(t)X(t + \tau)}
= & \overline{X(e, t)X(e, t + \tau)}\\
= & \lim\limits_{l \to +\infty}
\dfrac{1}{2l}
\int^l_{-l}
X(e, t)X(e, t + \tau)\,dt
\end{aligned}
\]
称为随机过程 \(X(t)\) 的时间相关函数。
随机过程 \(\{X(t), t \in T = [0, +\infty)\}\)
\[\begin{aligned}
&\overline{X(t)} = \lim\limits_{l \to +\infty}
\dfrac{1}{l}
\int_0^l X(e, t)\, dt\\
&\overline{X(t)X(t + \tau)} = \lim\limits_{l \to +\infty}
\dfrac{1}{l}
\int_0^l X(e, t)X(e, t + \tau)\, dt
\end{aligned}
\]
11.4.2 各态遍历性
1. 定义
设 \(X(t)\) 是一个平稳过程，\(T=(-\infty, +\infty)\) 或 \(T=[0, +\infty)\)
- 如果 \(P\{\overline{X(t)} = E[X(t)] = \mu_X\} = 1\)
则称过程 \(X(t)\) 的均值具有各态遍历性；
- 如果 \(P\{\overline{X(t)X(t + \tau)} = E[X(t)X(t + \tau)] = R_X(\tau)\} = 1\)
则称过程 \(X(t)\) 的自相关函数具有各态遍历性
均值和自相关函数都具有各态遍历性的平稳过程称为遍历过程，或者说，该过程具有遍历性。
2. 平稳过程均值各态遍历性的判别定理
引理：
设 \(\{X(t),-\infty<t<+\infty\}\) 是一个平稳过程，则它的时间均值的数学期望和方差分别为：
\[E[\overline{X(t)}] = \mu_X = E[X(t)]\\
D[\overline{X(t)}] = \lim\limits_{l \to +\infty}
\dfrac{1}{l}\int_0^{2l}(2 - \dfrac{\tau}{2l})
[R_X(\tau) - \mu^2_X]\,d\tau
\]
均值各态遍历性判别定理：
平稳过程 \(\{X(t), -\infty<t<+\infty\}\) 的均值具有各态遍历性的充要条件是：
\[D[\overline{X(t)}] =
\lim\limits_{l \to +\infty}
\int_0^{2l}
(1 - \dfrac{\tau}{2l})[R_X(\tau) - \mu^2_X]\,d\tau = 0
\]
