PT_常见分布的数学期望&方差

文章目录

• • 常见分布的数学期望&方差
  • • 0-1分布
    • 二项分布
    • Possion分布
    • 几何分布
    • 均匀分布
    • 指数分布
    • 正态分布

常见分布的数学期望&方差

• $$\begin{gathered} E(X)=\sum _{i=1}^{+\infty }{x}_k{p}_k \\ E(X^2)=\sum _{i=1}^{+\infty }{x}_k^2{p}_k \\ D(X)=E(X^2)-E^2(X) \\ 连续型: \\ E(X)={\int }_{-\infty }^{+\infty }xf(x)dx \\ E(Z)={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)f(x,y)dxdy \end{gathered}$$

0-1分布

• 分布律

  • 表达式形式

    • $P(X=x_k)=p^{x_k}(1-p{)}^{1-x_k},x_k=0,1$

  • 表格形式

    • $X=x_k,k=1,2$	1	0
      P(X)	p	1-p

  • 对应一重bernoulli试验$X\sim B(1,p)$

  • $$\begin{gathered} E(X)=\sum _{k=1}^2{x}_k{p}_k=1\times P(X=1)+0\times P(X=0)=P(X=1)=p \\ D(X)=E[(X-E(X){)}^2]=E(X^2)-E^2(X) \\ g(X)=X^2 \\ E(X^2)=\sum _{k=1}^2{x}_k^2{p}_k=1^2\times p+0^2(1-p)=p \\ D(X)=E(X^2)-E^2(X)=p-p^2=p(1-p) \end{gathered}$$

  • $g(X)=X^2$	1	0
    $P(g(X))$	p	1-p

二项分布

• $X\sim B(n,p)$

  • 随机变量X是n重bernoulli试验(n次基础操作)中事件A发生的次数

    • 基础操作的结果有两种,操作成功和操作失败

      • 假设基础操作成功的概率是$p$
      • 相应的,操作失败的的概率为$q=1-p$

    • n重bernoulli试验是指

      • 执行n次基础操作,将这n次操作打包为一个大事件,称为打包事件,简称为包事件

      • 这是为了将参数n的含义隔离起来)

    • 每个打包事件中包含的n次基础操作中

      • 第k次基础操作的结果用$X_k$表示$(k=1,2,\cdots ,n)$

        • 每个变量服从0-1分布:

        • $$\begin{gathered} X_k=\{\begin{array}{ll}1,& 表示A在第k次试验发生了\\ 0,& else\end{array} \\ k=1,2,\cdots ,n,对应了n个相互独立的随机变量, \\ {X}_k\sim B(1,p) \end{gathered}$$

      • 记成功的次数为$X=X_n$次

      • $X=X_n=\sum _{k=1}^n{X}_k$

  • 设相互独立的随机变量

    • 每个变量服从0-1分布:

    • $$\begin{gathered} X_k=\{\begin{array}{ll}1,& 表示A在第k次试验发生了\\ 0,& else\end{array} \\ k=1,2,\cdots ,n,对应了n个相互独立的随机变量, \\ {X}_k\sim B(1,p) \\ E(X_k)=p; \\ D(X_k)=p(1-p) \end{gathered}$$

    • $$\begin{gathered} X=\sum _{k=1}^n{X}_i \\ E(X)=E(\sum _{k=1}^n{X}_i)=\sum _{k=1}^{n}E(X_k)=np \\ D(X)=D(\sum _{k=1}^n{X}_i)=\sum _{k=1}^{n}D(X_k)=np(1-p) \end{gathered}$$

Possion分布

• $X\sim P(\lambda )$

  • $E(X)=\lambda ;D(X)=\lambda$

  • $$\begin{gathered} P(X=k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda } \\ E(X)=\sum _{k=0}^{+\infty }k\cdot \frac{{\lambda }^k}{k!}{e}^{-\lambda } \\ =0+\sum _{k=1}^{+\infty }k\cdot \frac{{\lambda }^k}{k!}{e}^{-\lambda } \\ =\sum _{k=1}^{+\infty }1\cdot \frac{{\lambda }^k}{(k-1)!}{e}^{-\lambda } \\ =\sum _{k=1}^{+\infty }1\cdot \frac{{\lambda }^{k-1}}{(k-1)!}\lambda e^{-\lambda } \\ =\lambda e^{-\lambda }\sum _{k=1}^{+\infty }\frac{{\lambda }^{k-1}}{(k-1)!} \\ =\lambda e^{-\lambda }\sum _{k=0}^{+\infty }\frac{{\lambda }^k}{k!} \end{gathered}$$

  • $$\begin{gathered} 根据Taylor级数: \\ {e}^x=\sum _{k=0}^{+\infty }\frac{x^k}{k!} \\ 自变量字母取\lambda \\ {e}^{\lambda }=\sum _{k=0}^{+\infty }\frac{{\lambda }^k}{k!} \\ E(X)=\lambda e^{-\lambda }\sum _{k=0}^{+\infty }\frac{{\lambda }^k}{k!}=\lambda e^{-\lambda }{e}^{\lambda }=\lambda \end{gathered}$$

• $D(X)$:

  • $E(X^2):$

  • $$\begin{gathered} E(X^2)=\sum _{k=0}^{+\infty }{k}^2\cdot \frac{{\lambda }^k}{k!}{e}^{-\lambda } \\ =e^{-\lambda }\sum _{k=0}^{+\infty }{k}^2\cdot \frac{{\lambda }^k}{k!} \\ \sum _{k=0}^{+\infty }{k}^2\cdot \frac{{\lambda }^k}{k!}=0+\sum _{k=1}^{+\infty }{k}^2\cdot \frac{{\lambda }^k}{k!}\stackrel{k⩾1}{=}\sum _{k=0}^{+\infty }{k}^2\cdot \frac{{\lambda }^k}{k!} \\ =\sum _{k=1}^{+\infty }{k}^1\cdot \frac{{\lambda }^k}{(k-1)!} \\ =\sum _{k=1}^{+\infty }((k-1)+1)\cdot \frac{{\lambda }^k}{(k-1)!} \\ =\sum _{k=1}^{+\infty }(k-1)\cdot \frac{{\lambda }^k}{(k-1)!}+\sum _{k=1}^{+\infty }1\cdot \frac{{\lambda }^k}{(k-1)!} \\ =0+\sum _{k=2}^{+\infty }(k-1)\cdot \frac{{\lambda }^k}{(k-1)!}+\sum _{k=0}^{+\infty }\frac{{\lambda }^{k+1}}{(k)!} \\ \stackrel{k-1⩾1}{=}\sum _{k=2}^{+\infty }\frac{{\lambda }^k}{(k-2)!}+\lambda \sum _{k=0}^{+\infty }\frac{{\lambda }^k}{(k)!} \\ =\sum _{k=0}^{+\infty }\frac{{\lambda }^{k+2}}{(k)!}+\lambda e^{\lambda } \\ ={\lambda }^2\sum _{k=0}^{+\infty }\frac{{\lambda }^k}{(k)!}+\lambda e^{\lambda } \\ ={\lambda }^2{e}^{\lambda }+\lambda e^{\lambda } \\ 所以E(X^2)=e^{-\lambda }({\lambda }^2{e}^{\lambda }+\lambda e^{\lambda })={\lambda }^2+\lambda \end{gathered}$$

  • $D(X)=E(X^2)-E^2(X)=({\lambda }^2+\lambda )-(\lambda {)}^2=\lambda$

几何分布

• $E(X)=\frac{1}{p},D(X)=\frac{1-p}{p^2}$

  • $P(X=k)=p{q}^{k-1}$

    • $k=1,2,\cdots$
    • $q=1-p$

  • $$E(X)=\sum _{k=0}^{+\infty }k\cdot p{q}^{k-1}=\cdots =\frac{1}{p}$$

    • 省略推导过程,参考等差乘以等比的级数求和:利用导数求导法最为快速

  • $$\begin{gathered} E(X^2)=\sum _{k=0}^{+\infty }{k}^2\cdot p{q}^{k-1}=p\sum _{k=0}^{+\infty }{k}^2{q}^{k-1}=\cdots =\frac{q+1}{p^2} \\ E(X)=\frac{1}{p} \end{gathered}$$

• $D(X)=E(X^2)-E^2(X)=\frac{q+1}{p^2}-\frac{1}{p^2}=\frac{q}{p^2}=\frac{1-p}{p^2}$

均匀分布

• $E(X)=\frac{a+b}{2};D(X)=\frac{(b-a{)}^2}{12}$

  • $$\begin{gathered} E(X)={\int }_{-\infty }^{+\infty }xf(x)\mathrm{d}x={\int }_{-\infty }^{+\infty }x\cdot \frac{1}{b-a}\mathrm{d}x \\ =\frac{1}{b-a}{\int }_a^{b}xdx=\frac{1}{2}\frac{1}{b-a}{x}^2{|}_a^b \\ =\frac{1}{2}\frac{1}{b-a}(b^2-a^2)=\frac{1}{2}\frac{1}{b-a}(b-a)(b+a) \\ =\frac{1}{2}(a+b) \end{gathered}$$

    $$\begin{gathered} E(X^2)={\int }_{-\infty }^{+\infty }{x}^{2}f(x)\mathrm{d}x={\int }_{-\infty }^{+\infty }{x}^2\cdot \frac{1}{b-a}\mathrm{d}x \\ =\frac{1}{3}\frac{1}{b-a}(b^3-a^3)=\frac{1}{3}\frac{1}{b-a}(b-a)(b^2+ab+a^2) \\ =\frac{1}{3}(a^2+ab+b^2) \end{gathered}$$

    $$\begin{gathered} D(X)=E(x^2)-E^2(x)=\frac{1}{3}(a^2+ab+b^2)-(\frac{1}{2}(a+b){)}^2 \\ =\frac{1}{12}{a}^2-\frac{1}{6}ab+\frac{1}{12}{b}^2=\frac{1}{12}(a^2-2ab+b^2)=\frac{1}{12}(a-b{)}^2 \\ =\frac{(b-a{)}^2}{12} \end{gathered}$$

​

指数分布

• $$\begin{gathered} E(X)=\frac{1}{\lambda } \\ D(X)=\frac{1}{{\lambda }^2} \end{gathered}$$

• 指数分布

  • $$f(x)=\{\begin{array}{ll}\lambda e^{-\lambda x},& x⩾0\\ 0,& else\end{array}$$

  • $$\begin{gathered} E(X)={\int }_{-\infty }^{+\infty }xf(x)\mathrm{d}x \\ ={\int }_{-\infty }^{+\infty }x\cdot \lambda e^{-\lambda x}\mathrm{d}x \\ =\lambda {\int }_0^{+\infty }x\cdot e^{-\lambda x}\mathrm{d}x \\ =\lambda {\int }_0^{+\infty }x\mathrm{d}(\frac{1}{-\lambda }{e}^{-\lambda x}) \\ =-{\int }_0^{+\infty }x\mathrm{d}(e^{-\lambda x}) \\ =-{\left(x\cdot e^{-\lambda x}-\int e^{-\lambda x}\mathrm{d}x\right)|}_0^{+\infty } \\ =-{\left(x\cdot e^{-\lambda x}-(-\frac{1}{\lambda })e^{-\lambda x}\right)|}_0^{+\infty } \\ =-{e^{-\lambda x}(x+\frac{1}{\lambda })|}_0^{+\infty } \\ =-{\frac{(x+\frac{1}{\lambda })}{e^{\lambda x}}|}_0^{+\infty } \\ =-{\frac{1}{\lambda e^{\lambda x}}|}_0^{+\infty }; \\ (\lambda >0,\frac{\infty }{\infty },LHopital) \\ =-(0-\frac{1}{\lambda })=\frac{1}{\lambda } \end{gathered}$$

  • $$E(X^2)=\frac{2}{{\lambda }^2}D(X)=\frac{2}{{\lambda }^2}-(\frac{1}{\lambda }{)}^2=\frac{1}{{\lambda }^2}$$

正态分布

• 先求解标准正态分布的期望和方差

  • $E(X)=\mu$

  • $D(X)={\sigma }^2$

• $X\sim N(0,1)$

  • $f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{1}{2}(x-u{)}^2}$

    • 这是一个关于x=u对称的函数

  • 对于标准型正态分布密度,$u=0,\sigma =1$

    • $\varphi (x)=\frac{1}{\sqrt{2\pi }}{e}^{-\frac{1}{2}{x}^2}$
    • $\varphi 是一个偶函数$

  • $记g(y)=y\varphi (y)$,g(y)则是一个奇函数

    • 这里自变量字母用y代替x,以示区别

    • $$\begin{gathered} 由规范性得知{\int }_{-\infty }^{+\infty }\varphi (x)\mathrm{d}x={\int }_{-\infty }^{+\infty }\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}\mathrm{d}x=1 \\ \frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }{e}^{-\frac{x^2}{2}}\mathrm{d}x=1 \\ {\int }_{-\infty }^{+\infty }{e}^{-\frac{x^2}{2}}\mathrm{d}x=\sqrt{2\pi } \end{gathered}$$

  $$E(Y)={\int }_{-\infty }^{+\infty }y\varphi (y)=0$$

  $$\begin{gathered} E(Y^2)={\int }_{-\infty }^{+\infty }{y}^2\varphi (y) \\ ={\int }_{-\infty }^{+\infty }{y}^2\frac{1}{\sqrt{2\pi }}{e}^{-\frac{1}{2}{y}^2}\mathrm{d}y \\ =\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }{y}^2{e}^{-\frac{1}{2}{y}^2}\mathrm{d}y \\ =\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }{y}^1{e}^{-\frac{1}{2}{y}^2}\mathrm{d}(\frac{1}{2}{y}^2) \\ =\frac{1}{2\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }{y}^1{e}^{-\frac{1}{2}{y}^2}\mathrm{d}(y^2) \\ =\frac{1}{2\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }{y}^1\cdot \mathrm{d}(\frac{1}{-\frac{1}{2}}{e}^{-\frac{1}{2}{y}^2}) \\ =-\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }{y}^1\cdot \mathrm{d}(e^{-\frac{1}{2}{y}^2}); \\ 继续分部积分 \\ =-\frac{1}{\sqrt{2\pi }}({y\cdot e^{-\frac{1}{2}{y}^2}|}_{-\infty }^{+\infty }-{\int }_{-\infty }^{+\infty }{e}^{-\frac{1}{2}{y}^2}\cdot \mathrm{d}y) \\ LHopital \\ =-\frac{1}{\sqrt{2\pi }}({\frac{y}{e^{\frac{1}{2}{y}^2}}|}_{-\infty }^{+\infty }-\sqrt{2\pi }) \\ =-\frac{1}{\sqrt{2\pi }}({\frac{1}{2y\cdot e^{\frac{1}{2}{y}^2}}|}_{-\infty }^{+\infty }-\sqrt{2\pi }) \\ =-\frac{1}{\sqrt{2\pi }}(0-0-\sqrt{2\pi }) \\ =1 \end{gathered}$$

• $$D(Y)=E(Y^2)-E^2(Y)=1$$

• 一般化的正态分布:

  • $E(X)=\mu ,D(X)={\sigma }^2$

    • 可以理解为:

      • $X=\sigma Y+\mu \sim N(\mu ,{\sigma }^2)$

        • 当${\mu }_0=0,{\sigma }_0=1$

          • $$\begin{gathered} X\sim N({\mu }_0=0,{\sigma }_0^2=1) \\ Y=aX+b \\ Y\sim N(a{\mu }_0+b,a^2{\sigma }_0^2)=N(b,a^2) \\ 也就是说,Y\sim N(b,a^2) \\ 换个字母表示期望和方差: \\ Y\sim N(\mu ,{\sigma }^2) \end{gathered}$$

  • $E(X)=E(\sigma Y+\mu )=\sigma E(Y)+\mu =\mu$

  • $D(X)=D(\sigma Y+\mu )={\sigma }^{2}D(Y)={\sigma }^2$

• 可见,正态分布的连个参数恰好是数学期望和方差(标准差)

  • 正态分布参数由其数学期望和方差唯一确定