第四章 随机向量 精简版

合集 - 概率论与数理统计 同济大学数学科学学院课件 笔记精简版(2)

1.第四章 随机向量 精简版2024-11-16

2.第五章 大数定律和中心极限定律 精简版2024-11-18

收起

§4.2 边缘分布、随机变量的独立性和条件分布

一、边缘分布函数

定义 4.7

设二维随机变量 $(X,Y)$ 的联合分布函数为 $F(x,y)$，称

$$F_X(x)=P(X\le x)=\underset{y\to +\mathrm{\infty }}{lim}F(x,y)=F(x,+\mathrm{\infty }),x\in (-\mathrm{\infty },+\mathrm{\infty })$$

为随机变量 $X$ 的边缘分布函数。同理，称

$$F_Y(y)=P(Y\le y)=\underset{x\to +\mathrm{\infty }}{lim}F(x,y)=F(+\mathrm{\infty },y),y\in (-\mathrm{\infty },+\mathrm{\infty })$$

为 $Y$ 的边缘分布函数。

二、边缘分布律和边缘密度函数

离散型随机变量的边缘分布律

设二维离散型随机变量 $(X,Y)$ 的联合分布律为 $P\{X=x_i,Y=y_j\}=p_{ij},i,j=1,2,\cdots$

称 $P\{X=x_i\}=p_{i\cdot }=\sum _{j=1}^{\mathrm{\infty }}{p}_{ij},i=1,2,\cdots$ 为 $X$ 的边缘分布律；

称 $P\{Y=y_j\}=p_{\cdot j}=\sum _{i=1}^{\mathrm{\infty }}{p}_{ij},j=1,2,\cdots$ 为 $Y$ 的边缘分布律。

连续型随机变量的边缘密度函数

设二维连续型随机变量 $(X,Y)$ 的联合密度函数为 $f(x,y)$，则

$$f_X(x)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,y)dy,x\in \mathbb{R}$$

为 $X$ 的边缘密度函数；

$$f_Y(y)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,y)dx,y\in \mathbb{R}$$

为 $Y$ 的边缘密度函数。

三、随机变量的相互独立性

定义 4.8 (离散型随机变量的独立性)

设二维离散型随机变量 $(X,Y)$ 的联合分布律为 $P\{X=x_i,Y=y_j\}=p_{ij}$。若

$$p_{ij}=p_{i\cdot }{p}_{\cdot j},\mathrm{\forall }i,j=1,2,\cdots$$

成立，那么就称 $X$ 和 $Y$ 相互独立。

定义 4.9 (连续型随机变量的独立性)

设随机变量 $X$ 和 $Y$ 的联合密度函数为 $f(x,y)$，边缘密度函数分别为 $f_X(x)$、$f_Y(y)$，如果在函数 $f(x,y)$ 的连续点上都成立

$$f(x,y)=f_X(x)f_Y(y)$$

那么称 $X$ 与 $Y$ 相互独立。

定理 4.2

随机变量 $X$ 和 $Y$ 相互独立的充分必要条件是：对实数轴上任意两个数集 $B_1$ 和 $B_2$，总有

$$P(X\in B_1,Y\in B_2)=P(X\in B_1)P(Y\in B_2)$$

四、条件分布和条件数学期望

定义 4.10 (离散型随机变量的条件分布律)

设二维离散型随机变量 $(X,Y)$ 的联合分布律为 $P\{X=x_i,Y=y_j\}=p_{ij}$。若 $P\{Y=y_j\}>0$，称

$$P\{X=x_i|Y=y_j\}=\frac{P\{X=x_i,Y=y_j\}}{P\{Y=y_j\}}=\frac{p_{ij}}{p_{\cdot j}},i=1,2,\cdots$$

为已知 $Y=y_j$ 发生的条件下 $X$ 的条件分布律。

定义 4.11 (连续型随机变量的条件密度函数)

设二维随机变量 $(X,Y)$ 的联合密度函数为 $f(x,y)$，边缘密度函数分别为 $f_X(x)$ 和 $f_Y(y)$。

对任意的实数 $y$，当 $f_Y(y)>0$ 时，称

$$f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)},(-\mathrm{\infty }<x<+\mathrm{\infty })$$

为 $Y=y$ 发生时 $X$ 的条件密度函数。

对任意的实数 $x$，当 $f_X(x)>0$ 时，称

$$f_{Y|X}(y|x)=\frac{f(x,y)}{f_X(x)},(-\mathrm{\infty }<y<+\mathrm{\infty })$$

为 $X=x$ 发生时 $Y$ 的条件密度函数。

条件数学期望

对于离散型随机变量，在事件 $Y=y_j$ 发生的条件下随机变量 $X$ 的条件数学期望定义为：

$$E(X|Y=y_j)=\sum _i{x}_{i}P\{X=x_i|Y=y_j\}=\sum _i{x}_i\frac{p_{ij}}{p_{\cdot j}},P\{Y=y_j\}>0$$

当$f_Y(y)>0$时，在事件$\{Y=y\}$发生的条件下随机变量$g(X)$的条件数学期望定义为

$$E[g(X)|Y=y]={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}g(x)f_{X|Y}(x|y)dx={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}g(x)\frac{f(x,y)}{f_Y(y)}dx$$

§4.3 二维随机变量函数的分布

一、二维离散型随机变量函数的分布

定理 4.4（分布的可加性）

设随机变量 $X$ 和 $Y$ 相互独立,

(1) 若 $X\sim B(n_1,p),Y\sim B(n_2,p)$, 则 $X+Y\sim B(n_1+n_2,p)$;

(2) 若 $X\sim P({\lambda }_1),Y\sim P({\lambda }_2)$, 则 $X+Y\sim P({\lambda }_1+{\lambda }_2)$.

二、二维连续型随机变量函数的分布

$1.\mathrm{已}\mathrm{知}(X,Y)\mathrm{的}\mathrm{联}\mathrm{合}\mathrm{密}\mathrm{度}\mathrm{函}\mathrm{数}f(x,y),\mathrm{求}Z=g(X,Y)\mathrm{的}\mathrm{密}\mathrm{度}\mathrm{函}\mathrm{数}$

主要步骤如下：

（1）确定随机变量$Z$的取值范围；

$（2）\mathrm{计}\mathrm{算}Z=g(X,Y)\mathrm{的}\mathrm{分}\mathrm{布}\mathrm{函}\mathrm{数}\mathrm{如}\mathrm{下}：$

$F_Z(z)=P(Z\le z)=P(g(X,Y)\le z)={\iint }_{g(x,y)\le z}f(x,y)dxdy$；

（3）求导得到Z的密度函数：$f_Z(z)=\frac{d{F}_Z(z)}{dz}$；

（4）完整写出Z的密度函数的表达式.

定理 4.5

设二维连续型随机变量 $(X,Y)$ 的密度函数为 $f(x,y)$, 则随机变量 $Z=X+Y$ 的密度函数为

$$f_Z(z)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,z-x)dx={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(z-y,y)dy$$

定理 4.6 (正态分布的可加性)

设随机变量 $X_1\sim N({\mu }_1,{\sigma }_1^2),X_2\sim N({\mu }_2,{\sigma }_2^2)$ 且 $X_1$ 和 $X_2$ 相互独立,则

$$X_1+X_2\sim N({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$$

更一般地,有下面结论：

设随机变量 $X_1,X_2,\cdots ,X_n$ 相互独立,且 $X_i\sim N(\mu ,{\sigma }^2),i=1,2,\cdots ,n$, $a_1,a_2,\cdots ,a_n$ 是一些不全为零的常数, $b$ 是常数,则

$$a_1{X}_1+a_2{X}_2+\cdots +a_n{X}_n+b\sim N(\mu \sum _{i=1}^n{a}_i+b,{\sigma }^2\sum _{i=1}^n{a}_i^2)$$

三、最大值和最小值的分布

定理 4.7

设连续型随机变量 $X_1,X_2,\cdots ,X_n$ 相互独立且服从相同分布, 具有分布函数 $F(x)$ 及密度函数 $f(x)$, 求：

1. $Y=max\{X_1,X_2,\cdots ,X_n\}$ 的分布函数为 $F_Y(y)=[F(y){]}^n$, 密度函数为 $f_Y(y)=n[F(y){]}^{n-1}f(y)$;

2. $Z=min\{X_1,X_2,\cdots ,X_n\}$ 的分布函数为 $F_Z(z)=1-[1-F(z){]}^n$, 密度函数为 $f_Z(z)=n[1-F(z){]}^{n-1}f(z)$.

§4.4 随机向量的数字特征

一、二维随机变量函数的数学期望

定理：
设$(X,Y)$是二维离散型随机变量，其分布律为$P\{X=x_i,Y=y_j\}=p_{ij}$，$i,j=1,2,\cdots$，$Z=g(X,Y)$是$(X,Y)$的函数，则：

$$E[g(X,Y)]=\sum _{i=1}^{\mathrm{\infty }}\sum _{j=1}^{\mathrm{\infty }}g(x_i,y_j)p_{ij}$$

$\mathrm{二}\mathrm{维}\mathrm{连}\mathrm{续}\mathrm{型}\mathrm{随}\mathrm{机}\mathrm{变}\mathrm{量}(X,Y)\mathrm{的}\mathrm{联}\mathrm{合}\mathrm{密}\mathrm{度}\mathrm{函}\mathrm{数}\mathrm{为}f(x,y),\mathrm{则}Z=g(X,Y)\mathrm{的}\mathrm{数}\mathrm{学}\mathrm{期}\mathrm{望}$

$$E(Z)={\iint }_{-\mathrm{\infty }}^{+\mathrm{\infty }}g(x,y)f(x,y)dxdy$$

$\mathrm{定}\mathrm{理}4.9（\mathrm{数}\mathrm{学}\mathrm{期}\mathrm{望}\mathrm{性}\mathrm{质}\mathrm{的}\mathrm{推}\mathrm{广}）\mathrm{设}\mathrm{随}\mathrm{机}\mathrm{变}\mathrm{量}{X}_1,X_2,\cdots ,X_n,$

1）若$Y=\sum _{i=1}^n{k}_i{X}_i+c$, 其中$k_i(i=1,2,\cdots ,n)$, c是常数, 则

$$E(Y)=\sum _{i=1}^n{k}_{i}E(X_i)+c$$

特别地, $E(\sum _{i=1}^n{X}_i)=\sum _{i=1}^{n}E(X_i)$；

（2）当随机变量$X_1,X_2,\cdots ,X_n$相互独立时,

$$E(X_1{X}_2\cdots X_n)=E(X_1)E(X_2)\cdots E(X_n)$$

二、协方差及相关系数

定义（协方差）：
设$(X,Y)$是二维随机变量，称

$$Cov(X,Y)=E[(X-E(X))(Y-E(Y))]$$

为随机变量$X$和$Y$的协方差。

定理：

$$Var(X\pm Y)=Var(X)+Var(Y)\pm 2Cov(X,Y)$$

$$Cov(X,Y)=E(XY)-E(X)E(Y)$$

性质：
1.各种交换和叠加和分常数如

$$Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)\text{比较重要}$$

2. 若$X$和$Y$独立，则$Cov(X,Y)=0$

定义（相关系数）：
设$(X,Y)$是二维随机变量，且$Var(X)>0$，$Var(Y)>0$，则称

$$Cor{r}_{XY}=\frac{Cov(X,Y)}{\sqrt{Var(X)}\sqrt{Var(Y)}}$$

为随机变量$X$和$Y$的相关系数。

定理：
$\mathrm{若}\mathrm{随}\mathrm{机}\mathrm{变}\mathrm{量}X\mathrm{与}Y\mathrm{相}\mathrm{互}\mathrm{独}\mathrm{立},\mathrm{且}Cov(X,Y)\mathrm{存}\mathrm{在}\mathrm{时},\mathrm{则}X\mathrm{与}Y\mathrm{不}\mathrm{相}\mathrm{关},\mathrm{反}\mathrm{之}\mathrm{则}\mathrm{不}\mathrm{然}.$
$\mathrm{该}\mathrm{定}\mathrm{理}\mathrm{的}\mathrm{逆}\mathrm{否}\mathrm{命}\mathrm{题}\mathrm{成}\mathrm{立},\mathrm{即}\mathrm{若}X\mathrm{与}Y\mathrm{相}\mathrm{关},\mathrm{则}X\mathrm{与}Y\mathrm{一}\mathrm{定}\mathrm{不}\mathrm{独}\mathrm{立}.$

定义（协方差矩阵）：
设$n$维随机向量$\mathbf{X}=(X_1,X_2,\cdots ,X_n{)}^T$，$Cov(X_i,X_j)$（$i,j=1,2,\cdots ,n$）存在，则称矩阵

$$\left(\begin{array}{cccc}Var(X_1)& Cov(X_1,X_2)& \cdots & Cov(X_1,X_n)\\ Cov(X_2,X_1)& Var(X_2)& \cdots & Cov(X_2,X_n)\\ ⋮& ⋮& \ddots & ⋮\\ Cov(X_n,X_1)& Cov(X_n,X_2)& \cdots & Var(X_n)\end{array}\right)$$

为随机向量$\mathbf{X}$的协方差矩阵。