数学 - 回归分析 - 第 2 章 一元线性回归 - 2.6 回归系数的区间估计

2.6 回归系数的区间估计

在用最小二乘法得到 \(\beta_0\)，\(\beta_1\) 的点估计后，在实际应用中，还需分别给出以 \(\hat{\beta}_0\) 和 \(\hat{\beta}_1\) 为中心的一个区间，这个区间以 \(1-\alpha\) 的概率包含参数 \(\beta_0\)，\(\beta_1\)。

置信区间的长度越短，说明估计值 \(\hat{\beta}_0\)，\(\hat{\beta}_1\) 与 \(\beta_0\)，\(\beta_1\) 接近程度越高，估计值就越精确；置信区间的长度越长，说明估计值 \(\hat{\beta}_0\)，\(\hat{\beta}_1\) 与 \(\beta_0\)，\(\beta_1\) 接近程度越低，估计值就越不精确。

我们主要关心回归系数 \(\hat{\beta}_1\) 的精度，此处只推导 \(\hat{\beta}_1\) 的置信区间。做区间估计，要先给出一个良好的点估计，由 \(\hat{\beta}_1\) 的分布

\[\hat{\beta}_1 \sim N(\beta_1, \frac{\sigma^2}{L_{xx}}) \]

由此得到一个枢轴变量

\[t = \frac{\hat{\beta}_1 - \beta_1}{\sqrt{\hat{\sigma}^2 / L_{xx}} } \tag{2.6.1} \]

我们可以得到关于该枢轴变量的分布。

定理 2.6.1

式 \((2.6.1)\) 构造的枢轴变量 \(t\) 服从自由度为 \(n-2\) 的 \(t\) 分布。

证明：

显然对 \(\hat{\beta}_1 - \beta_1\) 有

\[\hat{\beta}_1 - \beta_1 \sim N(0, \frac{\sigma^2}{L_{xx}}) \]

由定理 \(2.4.2\) 立即可得

\[t \sim t(n-2) \]

证毕。

给定显著性水平 \(\alpha\)，得到

\[P \left( \left| \frac{(\hat{\beta}_1 - \beta_1)\sqrt{L_{xx}}}{\hat{\sigma}} \right| < t_{\alpha/2}(n-2) \right) = 1-\alpha \tag{2.6.2} \]

可以得到 \(\beta_1\) 置信度为 \(1 - \alpha\) 的置信区间为

\[\left( \hat{\beta}_1 - t_{\alpha/2} \frac{\hat{\sigma}}{\sqrt{L_{xx}}}, \hat{\beta}_1 + t_{\alpha/2} \frac{\hat{\sigma}}{\sqrt{L_{xx}}} \right) \tag{2.6.3} \]