数学 - 回归分析 - 第 2 章 一元线性回归 - 2.6 回归系数的区间估计

2.6 回归系数的区间估计

在用最小二乘法得到 $\beta_0$，$\beta_1$ 的点估计后，在实际应用中，还需分别给出以 $\hat{\beta}_0$ 和 $\hat{\beta}_1$ 为中心的一个区间，这个区间以 $1-\alpha$ 的概率包含参数 $\beta_0$，$\beta_1$。

置信区间的长度越短，说明估计值 $\hat{\beta}_0$，$\hat{\beta}_1$ 与 $\beta_0$，$\beta_1$ 接近程度越高，估计值就越精确；置信区间的长度越长，说明估计值 $\hat{\beta}_0$，$\hat{\beta}_1$ 与 $\beta_0$，$\beta_1$ 接近程度越低，估计值就越不精确。

我们主要关心回归系数 $\hat{\beta}_1$ 的精度，此处只推导 $\hat{\beta}_1$ 的置信区间。做区间估计，要先给出一个良好的点估计，由 $\hat{\beta}_1$ 的分布

$$\hat{\beta}_1 \sim N(\beta_1, \frac{\sigma^2}{L_{xx}})$$

由此得到一个枢轴变量

$$t = \frac{\hat{\beta}_1 - \beta_1}{\sqrt{\hat{\sigma}^2 / L_{xx}} } \tag{2.6.1}$$

我们可以得到关于该枢轴变量的分布。

定理 2.6.1

式 $(2.6.1)$ 构造的枢轴变量 $t$ 服从自由度为 $n-2$ 的 $t$ 分布。

证明：

显然对 $\hat{\beta}_1 - \beta_1$ 有

$$\hat{\beta}_1 - \beta_1 \sim N(0, \frac{\sigma^2}{L_{xx}})$$

由定理 $2.4.2$ 立即可得

$$t \sim t(n-2)$$

证毕。

给定显著性水平 $\alpha$，得到

$$P \left( \left| \frac{(\hat{\beta}_1 - \beta_1)\sqrt{L_{xx}}}{\hat{\sigma}} \right| < t_{\alpha/2}(n-2) \right) = 1-\alpha \tag{2.6.2}$$

可以得到 $\beta_1$ 置信度为 $1 - \alpha$ 的置信区间为

$$\left( \hat{\beta}_1 - t_{\alpha/2} \frac{\hat{\sigma}}{\sqrt{L_{xx}}}, \hat{\beta}_1 + t_{\alpha/2} \frac{\hat{\sigma}}{\sqrt{L_{xx}}} \right) \tag{2.6.3}$$