概率论与数理统计B 重点/笔记梳理 第四章

第四章 随机变量的数字特征

文章目录

• 第四章 随机变量的数字特征
• • 第一节 随机变量的数学期望
  • 第二节 方差
  • 第三节 协方差

第一节 随机变量的数学期望

反映了一组分布的平均情况。

1.离散型：

如果级数
$$\sum _{i=1}^{\infty }{x}_i{p}_i$$
绝对收敛，则该级数为X的数学期望E(X)。

2.连续型：

如果广义积分
$${\int }_{-\infty }^{+\infty }xf(x)dx$$
绝对收敛，则该积分为X的数学期望E(X)。

3.一些分布的数学期望：

离散型：

• 二项分布：
  $$E(X)=np$$

• 泊松分布：
  $$E(X)=\lambda$$

• 几何分布：
  $$E(X)=\frac{1}{p}$$

连续型：

• 均匀分布：
  $$E(X)={\int }_a^b\frac{x}{b-a}dx=\frac{a+b}{2}$$

• 指数分布：
  $$E(X)={\int }_0^{+\infty }x\lambda e^{-\lambda x}=\frac{1}{\lambda }$$

• 正态分布：
  $$E(X)=\mu$$

4.随机变量函数的数学期望
$$\begin{gathered} 离散型：E(X)=\sum _{i=1}^{\infty }g(x_i)p_i \\ 连续型：E(X)={\int }_{-\infty }^{+\infty }g(x)f(x)dx \\ 假设Z=g(X,Y)是随机变量(X,Y)的函数，且g(x,y)为连续函数，则:E(Z)=E(g(X,Y))={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)f(x,y)dxdy \end{gathered}$$
5.数学期望的一些性质：

• 常数分布的数学期望是常数本身:
  $$E(c)=c$$

• $$E(aX+b)=aE(X)+b$$

• $$E(\sum _{i=1}^n{X}_i)=\sum _{i=1}^{n}E(X_i)(这个好理解：在每一个X基础上再加上个X，平均值增加个E(X))$$

• 如果X与Y相互独立，那么：
  $$E(X\cdot Y)=E(X)E(Y)$$
  反之不一定成立。

6.二维随机变量的数学期望
$$\begin{gathered} E(X)={\int }_{-\infty }^{+\infty }x{f}_X(x)dx={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }xf(x,y)dxdy \\ E(Y)={\int }_{-\infty }^{+\infty }y{f}_Y(y)dy={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }yf(x,y)dxdy \end{gathered}$$

第二节 方差

反映了分布的数据离散程度。

1.方差基本定义式
$$\begin{gathered} D(X)=E[X-E(X){]}^2(X-E(X)平方的期望)= \\ E(X^2-2XE(X)+E(X{)}^2)=E(X^2)-2E(X{)}^2+E(X{)}^2= \\ E(X^2)-[E(X){]}^2 \end{gathered}$$
2.离散型和连续型：

• 离散型：
  $$\sum _{i=1}^n[x_i-E(X){]}^2{p}_k$$

• 连续型：
  $${\int }_{-\infty }^{+\infty }[x-E(X){]}^{2}f(x)dx$$

3.常见的分布方差：

• 二项分布：
  $$D(X)=p(1-p)$$

• n重伯努利实验：
  $$D(X)=np(1-p)$$

• 泊松分布：
  $$D(X)=\lambda$$

• 均匀分布：
  $$D(X)=\frac{1}{12}(b-a{)}^2$$

• 指数分布：
  $$D(X)=\frac{1}{{\lambda }^2}$$

• 正态分布：
  $$D(X)={\sigma }^2$$

4.方差性质：

• D©=0;

• $$
  D(aX+b)=a^2D(X)

  $$

• $$\begin{gathered} D(X+Y)=D(X)+D(Y)=2E[(X-E(X))(Y-E(Y))] \\ =D(X)+D(Y)(如果X与Y独立) \end{gathered}$$

5.二维随机变量方差

• 离散型：先化为边缘分布，然后使用一维离散型方差公式即可。

• 连续型：与连续型数据期望的求法一样
  $$\begin{gathered} D(X)={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }(x-E(X){)}^{2}f(x,y)dxdy \\ D(Y)={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }(y-E(Y){)}^{2}f(x,y)dxdy \end{gathered}$$

第三节 协方差

协方差代表了一组分布两种变量之间的一种相关性。

1.基本定义式：
$$cov(X,Y)=E[(X-E(X))(Y-E(Y))]$$
那么我们不难发现，当Y=X时，cov(X,X)=D(X),cov(Y,Y)=D(Y)

2.相关性质

• $$\begin{gathered} cov(X,Y)=E(XY)-E(X)E(Y) \\ 证明:cov(X,Y)=E[XY-YE(X)-XE(Y)+E(X)E(Y)]=E(XY)-E(X)E(Y) \end{gathered}$$

• 交换律：X、Y交换一下位置，协方差依然代表两个随机变量的之间的相关性，这相关性没有发生变化。

• 相加性：
  $$cov(X_1+X_2,Y)=cov(X_1,Y)+cov(X_2,Y)$$

• 乘法脱项：
  $$cov(a{X}_1,b{X}_2)=abcov(X_1,X_2)$$

• 一个随机变量与任何常熟协方差为0：
  $$cov(X,a)=cov(Y,b)=0$$

• 求方差的新解法：
  $$D(X+Y)=D(X)+D(Y)+2cov(X,Y)$$

3.相关系数
$${\rho }_{XY}=\rho =\frac{cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$$
tips：

• 如果相关系数为0，说明X与Y没有关系。

• 相关系数的取值范围：
  $$|\rho |\le 1$$

• $$|\rho |=1\leftrightarrow P(Y=aX+b)=1,其中a、b为常数$$

• 对于二维正态分布，其独立性与不相关性是等价性。

4.矩与协方差矩阵

如果X是随机变量，如果说：
$$E(|X{|}^k)<+\infty$$
记:
$$v_k=E(X^k),a_k=E(|X{|}^k)$$
那么vk为X的k阶原点矩，ak为X的k阶原点绝对矩。比如说数学期望就是一阶原点矩。

---

如果E(X)存在，且:
$$E(|X-E(X){|}^k)<+\infty$$
记:
$${\mu }_k=E(X-E(X){)}^k$$
则我们称uk为X的k阶中心矩，同样的如果是绝对值的k次方就是X的k阶中心绝对矩。

---

假设有n维随机变量:
$$(X_1,X_2,...,X_n)$$
记忆：
$${\sigma }_{ij}=cov(X_i,X_j)(i,j=1,2,...,n)$$
则称呼：
$$\sum =\left[\begin{array}{cc}{\sigma }_{11}& {\sigma }_{12}...{\sigma }_{1n}\\ {\sigma }_{21}& {\sigma }_{22}...{\sigma }_{2n}\\ & ......\\ {\sigma }_{n1}& {\sigma }_{n2}...{\sigma }_{nn}\end{array}\right]$$
为协方差矩阵，很明显根据协方差的对称性，我们可以知道协方差矩阵为一个对称矩阵。

=cov(X_i,X_j)(i,j=1,2,…,n)
$$则称呼：$$
\sum=
\begin{bmatrix}
\sigma_{11} & \sigma_{12} … \sigma_{1n}\
\sigma_{21} & \sigma_{22} … \sigma_{2n}\
&…\
\sigma_{n1} & \sigma_{n2} … \sigma_{nn}\
\end{bmatrix}
$$
为协方差矩阵，很明显根据协方差的对称性，我们可以知道协方差矩阵为一个对称矩阵。