概率论与数理统计B 重点/笔记梳理 第五章

第五章 大数定律与中心极限定律

文章目录

• 第五章 大数定律与中心极限定律
• • 第一节 大数定律
  • • 1.切比雪夫不等式：
    • 一般怎么考？下面给出例题解释：
    • 2.随机变量序列的收敛
    • 3.切比雪夫大数定律
    • 4.伯努利大数定律
    • 5.辛钦大数定律（切比雪夫大数定律的特殊情况）
  • 第二节 中心极限定理
  • • 1.独立同分布的中心极限定律
    • 2.德莫佛-拉普拉斯定理——中心极限定理的衍生

第一节 大数定律

1.切比雪夫不等式：

定理 假设随机变量X具有数学期望
$$E(X)=\mu$$
方差
$$D(X)={\sigma }^2$$
则对于任意一个正数
$$ϵ$$
就有一个不等式
$$P\{|X-E(X)|\ge ϵ\}\le \frac{{\sigma }^2}{{ϵ}^2}$$
即
$$P\{|X-E(X)|<ϵ\}\ge 1-\frac{{\sigma }^2}{{ϵ}^2}$$
也就是说，当epsilon足够小的时候，如果方差越小，随机变量分布越主要分布在期望周围。

一般怎么考？下面给出例题解释：

(1)例题1

此题欲求得5200-9400之间的概率，可以先把表达式写出来，然后通过变形得到：

得到了如下形式就可以利用切比雪夫不等式：

(2)例题2

一样的套公式：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来

变形——>套公式：

2.随机变量序列的收敛

对于一串随机变量：
$$X_1,X_2,X_3,...,X_n,...$$
对于任意的正数
$$ϵ$$
那么有如下不等式：
$$\begin{gathered} \underset{n\to \infty }{\lim }P(|X_n-X|\ge ϵ)=0 \\ \underset{n\to \infty }{\lim }P(|X_n-X|<ϵ)=1 \end{gathered}$$
也就是说最终的随机变量都会趋近于一个稳定值：X，这个X可以是随机变量也可以是一个常数。

3.切比雪夫大数定律

假设一串随机变量序列：
$$X_1,X_2,...,X_n,...$$

他们都有：

• 有限的的期望和方差；
• 方差具有共同的上界；

那么随机变量的“平均随机变量”会收敛于数学期望的均值：
$$\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{k=1}^n{X}_k-\frac{1}{n}\sum _{k=1}^{n}E(X_k)|<ϵ)=1$$
理论意义：经过算术平均后的随机变量的取值可以较为紧密地聚集在数学期望周围。

4.伯努利大数定律

假设
$${\mu }_n$$
为n次伯努利实验中事件A发生的次数，p是成功概率，对于任意的正数
$$ϵ>0$$
恒有：
$$\underset{n\to \infty }{\lim }P(|\frac{{\mu }_n}{n}-p|<ϵ)=1$$
理论意义：这其实就是一个常见的道理：当试验次数足够多的时候，可以用频率近似等于概率，即：事件发生概率与频率有较大差距的概率很小。这就叫做频率的稳定性。

5.辛钦大数定律（切比雪夫大数定律的特殊情况）

假设一组随机变量序列：
$$X_1,X_2,X_3,...,X_n$$
独立且同分布，数学期望u存在，对于任意的正数
$$ϵ>0$$
有
$$\underset{n\to \infty }{\lim }P\{|\frac{1}{n}\sum _{i=1}^n{X}_i-\mu |<ϵ\}=1$$
理论意义：随机变量的均值与他们共同的随机变量之间的差距在多次实验情况下比较大的概率几乎为0。这就叫做平均结果的稳定性，是所有随机事件的共性。

第二节 中心极限定理

在我们上一节中我们了解到了多个随机变量相加的情况，这种情况放在我们的现实生活中就是一件事情由多件事情所决定，eg：X是咱们射击得分：
$$X=\sum _{i=1}^n{X}_i$$
但是影响射击的影响有很多，就是上方的Xi，那么这些影响因素最终会“碰撞出什么样子的火花”呢？

1.独立同分布的中心极限定律

如果说大数定律说明了当n足够大的时候，X在期望周围的分布的概率，那么中心极限定理说明了n足够大的时候，X的分布趋势，也就是说“如何分布的”：

对于独立同分布的一组随机变量序列
$$X_1,X_2,X_3,...,X_n$$
假设他们有有限的期望和方差，那么对他们的和进行“归一化”：
$$Y_n=\frac{{\sum }_{i=1}^n{X}_k-n\mu }{\sqrt{n}\sigma }$$
这个新随机变量的分布函数具有如下特点:
$$\underset{n\to \infty }{\lim }{F}_{Y_n}(y)={\int }_{-\infty }^x\frac{1}{\sqrt{2\pi }}{e}^{-\frac{t^2}{2}}dt=\Phi (x)$$
理论意义：当n足够大的时候，独立且同分布的这组随便变量序列的分布居然趋于一个标准正态分布。

2.德莫佛-拉普拉斯定理——中心极限定理的衍生

这个定理是中心极限定理在多重伯努利实验情况下的情况：

假设一个随机变量Yn服从B(n,p),对于任意的区间(a,b)，恒有:
$$\underset{n\to \infty }{\lim }P(a<\frac{y-np}{\sqrt{np(1-p)}}\le b)={\int }_a^b\frac{1}{\sqrt{2\pi }}{e}^{-\frac{t^2}{2}}dt$$

间(a,b)，恒有:
$$\underset{n\to \infty }{\lim }P(a<\frac{y-np}{\sqrt{np(1-p)}}\le b)={\int }_a^b\frac{1}{\sqrt{2\pi }}{e}^{-\frac{t^2}{2}}dt$$