【数理统计】极限定理及抽样分布

目录

• 中心极限定理
• 抽样分布
  • 卡方分布
  • t分布
  • F分布
  • 正态总体的【样本均值】与【样本方差】的分布

中心极限定理

【中心极限定理】设随机变量 $X_k(k=1,2,...,n)$ 相互独立且服从同一分布，数学期望 $E(X_k)=\mu$，方差 $D(X_k)=\sigma^2$，当 $n$ 充分大时，有

• $\frac{\bar{X} - \mu}{\sigma/\sqrt{n}} \sim N(0,1)$ 近似成立
• $\bar{X} \sim N(\mu,\sigma^2/n)$ 近似成立
• $\sum_{k=1}^{n}X_k \sim N(n\mu,n\sigma^2)$ 近似成立

【棣莫孚—拉普拉斯中心极限定理】设随机变量 $X_k \sim B(n,p)(k=1,2,...,n)$（二项分布），数学期望 $E(X_k)=p$，方差 $D(X_k)=p(1-p)$，当 $n$ 充分大时，有

$$\lim_{n \rightarrow \infty} P\left\{ \frac{X_n - np}{\sqrt{np(1-p)}} \right\} \approx \Phi(x) （此为标准正态分布的分布函数）$$

抽样分布

卡方分布

【定义 1】设 $X_1, X_2,..., X_n$ 相互独立且都服从标准正态分布 $N(0,1)$，则：

$$\chi^2 = \sum_{i=1}^{n} X_i^2 \sim \chi^2(n)$$

即随机变量 $\chi^2$（标准正态随机变量的独立平方和）服从自由度为 $n$ 的卡方分布。

【定义 2】对于任意正数 $\alpha(0<\alpha<1)$，称满足条件

$$P\{\chi^2 > \chi_{\alpha}^2 (n)\} = \int_{\chi_{\alpha}^2 (n)}^{+\infty} f(x)dx = \alpha$$

的数为卡方分布的上 $\alpha$ 分位数。

有如下重要性质：

• 设 $\chi^2 \sim \chi^2(n)$，则：$E(\chi^2) = n$，$D(\chi^2) = 2n$
• 设 $Y_1 \sim \chi^2(n_1)$ 和 $Y_2 \sim \chi^2(n_2)$ 相互独立，则：$Y_1 + Y_2 \sim \chi^2(n_1 + n_2)$
• 当 $n$ 足够大（$n>40$）时，有：$\chi_{\alpha}^2 (n) \approx \frac{1}{2}(u_{\alpha} + \sqrt{2n-1})^2$

t分布

【定义 1】设 $X \sim N(0,1)$，$Y \sim \chi^2(n)$ 相互独立，则

$$t = \frac{X}{\sqrt{Y/N}} \sim t(n)$$

即随机变量 $t$ 服从自由度为 $n$ 的 t 分布。

【定义 2】对于任意正数 $\alpha(0<\alpha<1)$，称满足条件

$$P\{t > t_{\alpha} (n)\} = \int_{t_{\alpha} (n)}^{+\infty} f(x)dx = \alpha$$

的数为 t 分布的上 $\alpha$ 分位数。

有如下重要性质：

• $t_{\alpha}(n) = -t_{1-\alpha}(n)$
• 当 $n (n>45)$ 足够大时，有：$t_{\alpha}(n) \approx u_{\alpha}$

F分布

【定义 1】设 $U \sim \chi^2(n_1)$，$V \sim \chi^2(n_2)$ 相互独立，则

$$F = \frac{U/n_1}{V/n_2} \sim F(n_1,n_2)$$

即随机变量 $F$ 服从自由度为 $(n_1,n_2)$ 的 F 分布。

【定义 2】对于任意正数 $\alpha(0<\alpha<1)$，称满足条件

$$P\{F > F_{\alpha} (n_1,n_2)\} = \int_{F_{\alpha} (n_1,n_2)}^{+\infty} f(x)dx = \alpha$$

的数为 F 分布的上 $\alpha$ 分位数。

有如下重要性质：

• $F_{1-\alpha} (n_1,n_2) = \frac{1}{F_{\alpha} (n_2,n_1)}$
• $\frac{1}{F} \sim F(n_2, n_1)$

正态总体的【样本均值】与【样本方差】的分布

【定理】设 $X_1, X_2,..., X_n$ 是来自正态总体 $N(\mu, \sigma^2)$ 的样本，$\bar{X}$ 为样本均值，$S^2$ 为样本方差，则有：

• $\bar{X}$ 和 $S^2$ 相互独立
• $\bar{X} \sim N(\mu, \sigma^2/n)$
• $\frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)$
• $\frac{\bar{X} - \mu}{S/\sqrt{n}} \sim t(n-1)$