Levinson递推
Yule-Walker方程是用来求解自回归（AR）模型系数的一组线性方程。下面是对一个AR(p)模型的Yule-Walker方程的推导。
假设我们有一个零均值的AR(p)模型，形式如下：
\[x_t = \sum_{i=1}^p a_i x_{t-i} + \epsilon_t
\]
其中，\(\epsilon_t\)是一个白噪声序列，满足\(\text{E}(\epsilon_t)=0\)和\(\text{E}(\epsilon_t^2)=\sigma^2\)。
我们将上式两边同时乘以\(x_{t-k}\)，然后取期望，得到：
\[\text{E}(x_t x_{t-k}) = \sum_{i=1}^p a_i \text{E}(x_{t-i} x_{t-k}) + \text{E}(\epsilon_t x_{t-k})
\]
由于\(\epsilon_t\)与\(x_{t-k}\)不相关，所以\(\text{E}(\epsilon_t x_{t-k})=0\)。因此，上式可以简化为：
\[\text{E}(x_t x_{t-k}) = \sum_{i=1}^p a_i \text{E}(x_{t-i} x_{t-k})
\]
由于\(x_t\)是零均值的，所以\(\text{E}(x_t x_{t-k})\)就是序列的自相关函数\(r(k)\)。因此，上式可以写成：
\[r(k) = \sum_{i=1}^p a_i r(k-i)
\]
对于\(k=1,2,\dots,p\)，我们可以得到一组线性方程：
\[\begin{cases}
r(1) = a_1 r(0) + a_2 r(-1) + \cdots + a_p r(1-p) \\
r(2) = a_1 r(1) + a_2 r(0) + \cdots + a_p r(2-p) \\
\vdots \\
r(p) = a_1 r(p-1) + a_2 r(p-2) + \cdots + a_p r(0)
\end{cases}
\]
将上述方程写成矩阵形式，就得到了Yule-Walker方程：
\[\begin{bmatrix}
r(0) & r(1) & \cdots & r(p-1) \\
r(1) & r(0) & \cdots & r(p-2) \\
\vdots & \vdots & \ddots & \vdots \\
r(p-1) & r(p-2) & \cdots & r(0)
\end{bmatrix}
\begin{bmatrix}
a_1 \\
a_2 \\
\vdots \\
a_p
\end{bmatrix}=
\begin{bmatrix}
-r(1) \\
-r(2) \\
\vdots \\
-r(p)
\end{bmatrix}
\]
