概率论与数理统计

1 公式

1.1 条件概率

$$\begin{array}{rl}\mathrm{条}\mathrm{件}\mathrm{概}\mathrm{率}& P(A|B)={\displaystyle \frac{P(AB)}{P(B)}}\\ \mathrm{乘}\mathrm{法}\mathrm{公}\mathrm{式}& P(AB)=P(A)P(B|A)=P(A|B)P(B)\\ \mathrm{全}\mathrm{概}\mathrm{率}\mathrm{公}\mathrm{式}& P(A)=\sum P(A|B_i)P(B_i)\\ \mathrm{贝}\mathrm{叶}\mathrm{斯}\mathrm{公}\mathrm{式}& P(B_i|A)={\displaystyle \frac{P(B_{i}A)}{P(A)}}={\displaystyle \frac{P(A|B_i)P(B_i)}{\sum P(A|B_j)P(B_j)}}\end{array}$$

1.2 常见分布

$$\begin{array}{rl}0-1\mathrm{分}\mathrm{布}& P(X=k)=p^k(1-p{)}^{1-k}\\ \mathrm{二}\mathrm{项}\mathrm{分}\mathrm{布}B(n,p)& P(X=k)=C_n^k{p}^k(1-p{)}^{n-k}\\ \mathrm{泊}\mathrm{松}\mathrm{分}\mathrm{布}P(\lambda )& P(X=k)={\displaystyle \frac{{\lambda }^k}{k!}}{\text{e}}^{-\lambda }\\ \mathrm{均}\mathrm{匀}\mathrm{分}\mathrm{布}U(a,b)& f(x)={\displaystyle \frac{1}{b-a}}\\ \mathrm{正}\mathrm{态}\mathrm{分}\mathrm{布}N(\mu ,{\sigma }^2)& \phi (x)={\displaystyle \frac{1}{\sqrt{2\pi }\sigma }}{\text{e}}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}\\ \mathrm{指}\mathrm{数}\mathrm{分}\mathrm{布}E(\lambda )& f(x)=\lambda {\text{e}}^{-\lambda x}\\ \mathrm{几}\mathrm{何}\mathrm{分}\mathrm{布}G(p)& P(X=k)=p(1-p{)}^{k-1}\\ \mathrm{超}\mathrm{几}\mathrm{何}\mathrm{分}\mathrm{布}H(N,M,n)& P(X=k)={\displaystyle \frac{C_M^k{C}_{N-M}^{n-k}}{C_N^n}}\\ \mathrm{二}\mathrm{维}\mathrm{均}\mathrm{匀}\mathrm{分}\mathrm{布}& f(x,y)={\displaystyle \frac{1}{S_D}}\\ \mathrm{二}\mathrm{维}\mathrm{正}\mathrm{态}\mathrm{分}\mathrm{布}& \phi (x,y)={\displaystyle \frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}}{\text{e}}^{-\frac{1}{2(1-{\rho }^2)}(\frac{(x-{\mu }_1{)}^2}{{\sigma }_1^2}-2\rho \frac{(x-{\mu }_1)(y-{\mu }_2)}{{\sigma }_1{\sigma }_2}+\frac{(y-{\mu }_2{)}^2}{{\sigma }_2^2})}\end{array}$$

1.3 联合概率分布

$$\begin{array}{rl}\mathrm{联}\mathrm{合}\mathrm{分}\mathrm{布}\mathrm{函}\mathrm{数}& F(x,y)={\int }_{-\mathrm{\infty }}^x{\int }_{-\mathrm{\infty }}^{y}f(x,y)\text{d}x\text{d}y\\ \mathrm{边}\mathrm{际}\mathrm{分}\mathrm{布}\mathrm{函}\mathrm{数}& F_X(x)={\int }_{-\mathrm{\infty }}^x{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,y)\text{d}x\text{d}y\\ \mathrm{边}\mathrm{际}\mathrm{密}\mathrm{度}\mathrm{函}\mathrm{数}& f_X(x)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,y)\text{d}y\\ \mathrm{条}\mathrm{件}\mathrm{密}\mathrm{度}\mathrm{函}\mathrm{数}& f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)}\end{array}$$

1.4 随机变量函数的概率分布

$$\begin{array}{rl}\mathrm{一}\mathrm{元}\mathrm{离}\mathrm{散}\mathrm{型}& P(Y=y_j)=\sum _{g(x_i)=y_i}P(X=x_i)\\ \mathrm{多}\mathrm{元}\mathrm{离}\mathrm{散}\mathrm{型}& P(Z=z_k)=\sum _{g(x_i,y_j)=z_k}P(X=x_i,Y=y_j)\\ \mathrm{一}\mathrm{元}\mathrm{连}\mathrm{续}\mathrm{型}& F_Y(y)=P(Y\le y)=P(g(x)\le y)={\int }_{g(x)\le y}{f}_X(x)\text{d}x{f}_Y(y)=F_Y^{\prime }(y)\\ \mathrm{多}\mathrm{元}\mathrm{连}\mathrm{续}\mathrm{型}& F_Z(z)=P(Z\le z)=P(g(x,y)\le z)={\iint }_{g(x,y)\le z}f(x,y)\text{d}x\text{d}y{f}_Z(z)=F_Z^{\prime }(z)\end{array}$$

1.5 正态分布

$$\begin{array}{rl}\mathrm{标}\mathrm{准}\mathrm{正}\mathrm{态}\mathrm{分}\mathrm{布}& X\sim N(0,1)\Rightarrow \mathrm{\Phi }(a)=P(X\le a)\\ \mathrm{一}\mathrm{般}\mathrm{正}\mathrm{态}\mathrm{分}\mathrm{布}& X\sim N(\mu ,{\sigma }^2)\Rightarrow {\displaystyle \frac{X-\mu }{\sigma }}\sim N(0,1),\mathrm{\Phi }\left({\displaystyle \frac{a-\mu }{\sigma }}\right)=P(X\le a)\\ \mathrm{二}\mathrm{维}\mathrm{边}\mathrm{际}\mathrm{性}\mathrm{质}& (X,Y)\sim N({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho )\Rightarrow X\sim N({\mu }_1,{\sigma }_1^2),Y\sim N({\mu }_2,{\sigma }_2^2)\\ & aX+bY\sim N(a{\mu }_1+b{\mu }_2,a^2{\sigma }_1^2+b^2{\sigma }_2^2+2ab\text{Cov}(X,Y))\end{array}$$

1.6 数学期望

$$\begin{array}{rl}\mathrm{一}\mathrm{元}\mathrm{离}\mathrm{散}\mathrm{型}& E(X)=\sum _k{x}_k{p}_k\\ \mathrm{多}\mathrm{元}\mathrm{离}\mathrm{散}\mathrm{型}& E(Z)=\sum _i\sum _{j}g(x_i,y_j)p_{ij}\\ \mathrm{一}\mathrm{元}\mathrm{连}\mathrm{续}\mathrm{型}& E(X)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}xf(x)\text{d}x\\ \mathrm{多}\mathrm{元}\mathrm{连}\mathrm{续}\mathrm{型}& E(Z)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}g(x,y)f(x,y)\text{d}x\text{d}y\\ \mathrm{线}\mathrm{性}\mathrm{性}\mathrm{质}& E(aX+bY)=aE(X)+bE(Y)\end{array}$$

1.7 方差与相关系数

$$\begin{array}{rl}\mathrm{方}\mathrm{差}& D(X)=E(X-E(X){)}^2=E(X^2)-E^2(X)\\ & D(aX+bY)=a^{2}D(X)+b^{2}D(Y)+2ab\text{Cov}(X,Y)\\ \mathrm{协}\mathrm{方}\mathrm{差}& \text{Cov}(X,Y)=E((X-E(X))(Y-E(Y)))=E(XY)-E(X)E(Y)\\ & \text{Cov}(X_1+X_2,Y)=\text{Cov}(X_1,Y)+\text{Cov}(X_2,Y)\\ \mathrm{相}\mathrm{关}\mathrm{系}\mathrm{数}& {\rho }_{xy}=\frac{\text{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}=\frac{\text{Cov}(X,Y)}{{\sigma }_1{\sigma }_2}\end{array}$$

1.8 大数定律与中心极限定理

$$\begin{array}{rl}& \text{契比雪夫不等式}\\ & P(|X-\mu |<k)\ge 1-\frac{{\sigma }^2}{k^2}\\ & n\text{个相互独立的随机变量的算术平均值，在}n\text{无限增加时趋近一个期望值}\\ & \underset{n\to \mathrm{\infty }}{lim}P(|\frac{1}{n}\sum _{i=1}^n{X}_i-\frac{1}{n}\sum _{i=1}^{n}E(X_i)|\ge \epsilon )=0\\ & n\text{重独立重复实验，事件发生频率趋近概率}\\ & \underset{n\to \mathrm{\infty }}{lim}P(|\frac{n_A}{n}-p|\ge \epsilon )=0\\ & \text{独立同分布的随机变量序列的样本均值的极限分布是正态分布}\\ & \underset{n\to \mathrm{\infty }}{lim}P(\frac{\sum _{i=1}^n{X}_i-n\mu }{\sqrt{n}\sigma }\le x)=\mathrm{\Phi }(x)\\ & \text{二项分布的极限分布是正态分布}\\ & \underset{n\to \mathrm{\infty }}{lim}P(\frac{X-np}{\sqrt{np(1-p)}}\le x)=\frac{1}{\sqrt{2\pi }}{\int }_{-\mathrm{\infty }}^x{\text{e}}^{-\frac{t^2}{2}}\text{d}t=\mathrm{\Phi }(x)\end{array}$$

1.9 ${\chi }^2$ 分布

$$\begin{array}{rl}& X_i\sim N(0,1)\Rightarrow {\chi }^2=X_1^2+X_2^2+\cdots +X_n^2\\ & X\sim {\chi }^2(n),Y\sim {\chi }^2(m)\Rightarrow X+Y\sim {\chi }^2(n+m)\\ & X\sim {\chi }^2(n)\Rightarrow E({\chi }^2(n))=n,D({\chi }^2(n))=2n\end{array}$$

1.10 $t$ 分布

$$\begin{array}{rl}& X\sim N(0,1),Y\sim {\chi }^2(n)\Rightarrow t=\frac{X}{\sqrt{\frac{Y}{n}}}\\ & \underset{n\to \mathrm{\infty }}{lim}f(x)=\frac{1}{\sqrt{2\pi }}{\text{e}}^{-\frac{x^2}{2}}\end{array}$$

1.11 $F$ 分布

$$\begin{array}{rl}& X\sim {\chi }^2(n),Y\sim {\chi }^2(m)\Rightarrow F=\frac{\frac{X}{n}}{\frac{Y}{m}}\\ & X\sim F(n,m)\Rightarrow \frac{1}{X}\sim F(m,n)\\ & t\sim t(n)\Rightarrow t^2\sim F(1,n)\end{array}$$

1.12 正态总体的抽样分布

$$\begin{array}{rl}\mathrm{单}\mathrm{正}\mathrm{态}\mathrm{总}\mathrm{体}& \frac{\overline{X}-\mu }{\frac{\sigma }{\sqrt{n}}}\sim N(0,1)\\ & \frac{n-1}{{\sigma }^2}{S}^2\sim {\chi }^2(n-1)\\ & \frac{\overline{X}-\mu }{\frac{S}{\sqrt{n}}}\sim t(n-1)\\ \mathrm{双}\mathrm{正}\mathrm{态}\mathrm{总}\mathrm{体}& \frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{\sqrt{\frac{{\sigma }_1^2}{n}+\frac{{\sigma }_2^2}{m}}}\sim N(0,1)\\ & \frac{S_1^2}{S_2^2}\cdot \frac{{\sigma }_2^2}{{\sigma }_1^2}\sim F(n-1,m-1)\\ & {\sigma }_1={\sigma }_2,S_{\omega }=\sqrt{{\displaystyle \frac{(n-1)S_1^2+(m-1)S_2^2}{n+m-2}}}\Rightarrow {\displaystyle \frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{S_{\omega }\sqrt{\frac{1}{n}+\frac{1}{m}}}}\sim t(n+m-2)\end{array}$$

1.13 点估计

$$\begin{array}{rl}\mathrm{矩}\mathrm{估}\mathrm{计}\mathrm{法}& E(X^i)=A_i=\frac{1}{n}\sum _{j=1}^n{x}_j^i\\ \mathrm{最}\mathrm{大}\mathrm{似}\mathrm{然}\mathrm{法}& L(\hat{\theta })=\text{max}L(\theta )=\text{max}\prod _{i=1}^{n}p(x_i,\theta )\\ \mathrm{无}\mathrm{偏}\mathrm{性}& E(\hat{\theta })=\theta \\ \mathrm{有}\mathrm{效}\mathrm{性}& D({\hat{\theta }}_1)<D({\hat{\theta }}_2)\\ \mathrm{一}\mathrm{致}\mathrm{性}& \underset{n\to \mathrm{\infty }}{lim}P(|{\hat{\theta }}_n-\theta |<\epsilon )=1\end{array}$$

1.14 分位点

$$\begin{array}{rl}\mathrm{区}\mathrm{间}\mathrm{估}\mathrm{计}& P(Y<Y_{\alpha })=1-\alpha \\ & P(Y>Y_{1-\alpha })=1-\alpha \\ & P(Y_{1-\frac{\alpha }{2}}<Y<Y_{\frac{\alpha }{2}})=1-\alpha \\ \mathrm{假}\mathrm{设}\mathrm{检}\mathrm{验}& P(Y>Y_{\alpha })=\alpha \\ & P(Y<Y_{1-\alpha })=\alpha \\ & P(Y<Y_{1-\frac{\alpha }{2}}\vee Y>Y_{\frac{\alpha }{2}})=\alpha \end{array}$$

2 练习

$\text{Qn1}$ 设二维随机变量 $(X,Y)$ 的联合密度函数为：

$$f(x,y)=\{\begin{array}{l}{\displaystyle \frac{1}{4}}(1+xy)|x|<1,|y|<1\\ 0\mathrm{其}\mathrm{他}\end{array}$$

证明：$X$ 与 $Y$ 不独立，$X^2$ 与 $Y^2$ 独立。

$\text{Sol}$ 显然

$$\begin{array}{rl}& f(x)={\int }_{-1}^1{\displaystyle \frac{1}{4}}(1+xy)\text{d}y={\displaystyle \frac{1}{2}}f(y)=f(x)={\displaystyle \frac{1}{2}}\\ & f(x)\cdot f(y)\ne f(x,y)\end{array}$$

设 $U=X^2,V=Y^2$

$$\begin{array}{rl}F(u,v)=& P(U\le u,V\le v)\\ =& P(X^2<u,Y^2<v)\\ =& {\int }_{-\sqrt{u}}^{\sqrt{u}}{\int }_{-\sqrt{v}}^{\sqrt{v}}{\displaystyle \frac{1}{4}}(1+xy)\text{d}x\text{d}y\\ =& \sqrt{uv}\end{array}$$

而

$$\begin{array}{rl}& F(u)=F(u,1)=\sqrt{u}F(v)=F(1,v)=\sqrt{v}\\ & F(u,v)=F(u)\cdot F(v)\end{array}$$

证毕。

$\text{Qn2}$ 设随机变量 $X$ 和 $Y$ 独立，其中 $X$ 的概率分布为 $X\sim \left(\begin{array}{cc}1& 2\\ 0.3& 0.7\end{array}\right)$, 而 $Y$ 的概率密度为 $f(y)$, 求随机变量 $Z=Y-X^2$ 的概率密度。

$\text{Sol}$

$$\begin{array}{rl}{F}_Z(z)=& P(Z\le z)\\ =& P(Y-X^2\le z)\\ =& \sum _{i=1}^{2}P(Y\le z+x^2|X=i)P(X=i)\\ =& {\displaystyle \frac{3}{10}}{\int }_{-\mathrm{\infty }}^{z+1}f(y)\text{d}y+{\displaystyle \frac{7}{10}}{\int }_{-\mathrm{\infty }}^{z+4}f(y)\text{d}y\\ f_Z(z)=& F_Z^{\prime }(z)\\ =& {\displaystyle \frac{3}{10}}f(z+1)+{\displaystyle \frac{7}{10}}f(z+4)\end{array}$$

$\text{Qn3}$ 已知 $(X,Y)$ 的联合分布列为

$$P(X=n,Y=m)={\displaystyle \frac{(p\lambda {)}^m(q\lambda {)}^{n-m}}{m!(n-m)!}}{\text{e}}^{-\lambda }$$

其中 $\lambda >0,p+q=1,n=0,1,2,\cdots ,m=0,1,2,\cdots ,n$，求 $Z=X-Y$ 的分布列，并证明 $Y$ 与 $Z$ 相互独立。

$\text{Sol}$ 先

$$\begin{array}{rl}P(Z=k)=& P(X-Y=k)\\ =& \sum _{i=0}^{\mathrm{\infty }}P(X=k+i,Y=i)\\ =& \sum _{i=0}^{\mathrm{\infty }}{\displaystyle \frac{(p\lambda {)}^i(q\lambda {)}^k}{i!k!}}{\text{e}}^{-\lambda }\\ =& {\displaystyle \frac{(q\lambda {)}^k}{k!}}{\text{e}}^{-q\lambda }\end{array}$$

后

$$\begin{array}{rl}P(Y=m)=& \sum _{j=m}^{\mathrm{\infty }}P(X=j,Y=m)\\ =& \sum _{j=m}^{\mathrm{\infty }}{\displaystyle \frac{(p\lambda {)}^m(q\lambda {)}^{j-m}}{m!(j-m)!}}{\text{e}}^{-\lambda }\\ =& {\displaystyle \frac{(p\lambda {)}^m}{m!}}{\text{e}}^{-p\lambda }\end{array}$$

判断独立性

$$\begin{array}{rl}& P(Z=k)P(Y=m)={\displaystyle \frac{p^m{q}^k}{m!k!}}{\lambda }^{k+m}{\text{e}}^{-\lambda }\\ & P(Z=k,Y=m)=P(X=k+m,Y=m)={\displaystyle \frac{p^m{q}^k}{m!k!}}{\lambda }^{k+m}{\text{e}}^{-\lambda }\end{array}$$

$\text{Qn4}$ 设 $X\sim N(0,{\sigma }^2),Y\sim N(0,{\sigma }^2)$ 且相互独立，求 $Z={\displaystyle \sqrt{X^2+Y^2}}$ 的分布。

$\text{Sol}$ 考虑

$$\begin{array}{rl}& f_X(x)={\displaystyle \frac{1}{\sqrt{2\pi }\sigma }}{\text{e}}^{-\frac{x^2}{2{\sigma }^2}}\\ & f(x,y)={\displaystyle \frac{1}{2\pi {\sigma }^2}}{\text{e}}^{-\frac{x^2+y^2}{2{\sigma }^2}}\end{array}$$

那么

$$\begin{array}{rl}{F}_Z(z)=& \underset{\rho (z)}{\iint }f(x,y)\text{d}x\text{d}y\\ =& {\int }_0^{2\pi }\text{d}\theta {\int }_0^z{\displaystyle \frac{r}{2\pi {\sigma }^2}}{\text{e}}^{-\frac{r^2}{2{\sigma }^2}}\text{d}r\\ =& 1-{\text{e}}^{-\frac{z^2}{2{\sigma }^2}}\end{array}$$

顺带提一下雅可比行列式忘了怎么办吧. 考虑到 $\text{d}x\text{d}y$ 是面积微元的意思, 而面积微元的定义是 $\text{d}x\wedge \text{d}y$. 用外积展开就好了.

$\text{Qn5}$ 从区间 $[0,1]$ 上任取 $n$ 个点，求最大点与最小点之间距离的数学期望。

$\text{Sol}$ 设 $X_1,X_2,\cdots ,X_n$ 为 $n$ 个点，令 $Y=\text{max}(X_1,X_2,\cdots ,X_n),Z=\text{min}(X_1,X_2,\cdots ,X_n)$

$$\begin{array}{rl}& F_{\text{max}}(x)=\prod _{i}P(X_i<x)=x^n\\ & f_{\text{max}}(x)=n{x}^{n-1}\\ & F_{\text{min}}(x)=\prod _{i}P(X_i>x)=1-(1-x{)}^n\\ & f_{\text{min}}(x)=n(1-x{)}^{n-1}\end{array}$$

因此

$$E(Y)={\int }_0^{1}n{x}^n\text{d}x=\frac{n}{n+1},E(Z)={\int }_0^{1}nx(1-x{)}^{n-1}\text{d}x=\frac{1}{n+1}$$

$$E(Y-Z)=E(Y)-E(Z)=\frac{n-1}{n+1}$$

$\text{Qn6}$ 设 $(X,Y)\sim N(1,1,2^2,3^2,0.5)$，求 $E(\text{max}(X,Y))$。

$\text{Sol}$ 小技巧 $\text{max}(X,Y)={\displaystyle \frac{1}{2}}(X+Y+|X-Y|)$

其中

$$\begin{array}{rl}E(X+Y)=& E(X)+E(Y)=2\\ E(X-Y)=& E(X)-E(Y)=0,D(X-Y)=D(X)+D(Y)-2\text{Cov}(X,Y)=7\\ E|X-Y|=& {\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}|t|\frac{1}{\sqrt{14\pi }}{\text{e}}^{-\frac{t^2}{14}}\text{d}t\\ =& \frac{2}{\sqrt{14\pi }}{\int }_0^{+\mathrm{\infty }}t{\text{e}}^{-\frac{t^2}{14}}\text{d}t\\ =& \sqrt{\frac{14}{\pi }}\end{array}$$

因此

$$E(\text{max}(X,Y))=1+\sqrt{\frac{7}{2\pi }}$$

$\text{Qn7}$ 将 $n$ 个编号为 $1,2,\cdots ,n$ 的球随机放入编号为 $1,2,\cdots ,n$ 的 $n$ 个盒子中，一个盒子只能装一个球，如果第 $i$ 号球正好放入了第 $i$ 号盒子，称为一个配对。求配对数的期望与方差。

$\text{Sol}$ 令

$$X_i=\{\begin{array}{l}1,\mathrm{第}i\mathrm{个}\mathrm{盒}\mathrm{子}\mathrm{配}\mathrm{对}\\ 0,\mathrm{第}i\mathrm{个}\mathrm{盒}\mathrm{子}\mathrm{没}\mathrm{配}\mathrm{对}\end{array},i=1,2,\cdots ,n$$

则 $X={\displaystyle \sum _{i=1}^n{X}_i}$ 表示配对数，且 $E(X_i)={\displaystyle \frac{1}{n}},D(X_i)={\displaystyle \frac{n-1}{n^2}}$

因此

$$\begin{array}{rl}E(X)=& \sum _{i=1}^{n}E(X_i)=n\frac{1}{n}=1\\ D(X)=& \sum _{i=1}^{n}D(X_i)+\sum _{i\ne j}\text{Cov}(X_i,X_j)\\ =& n\frac{n-1}{n^2}+\sum _{i\ne j}E(X_i{X}_j)-E(X_i)E(X_j)\\ =& \frac{n-1}{n}+2{\text{C}}_n^2(\frac{1}{n(n-1)}-\frac{1}{n^2})\\ =& 1\end{array}$$

$\text{Qn8}$ 设 $X_1,X_2,\cdots ,X_n,X_{n+1}$ 是正态总体 $X\sim N(\mu ,{\sigma }^2)$ 的样本，记

$${\overline{X}}_n=\frac{1}{n}\sum _{i=1}^n{X}_i,S_n^2=\frac{1}{n}\sum _{i=1}^n(X_i-{\overline{X}}_n{)}^2$$

试证明统计量 $U=\sqrt{{\displaystyle \frac{n-1}{n+1}}}{\displaystyle \frac{X_{n+1}-{\overline{X}}_n}{S_n}}$ 服从 $t(n-1)$ 分布.

$\text{Sol}$ 考虑 ${\displaystyle \frac{n-1}{{\sigma }^2}{S}^2\sim {\chi }^2(n-1)}$，原式转化为

$$\frac{\sqrt{\frac{n}{n+1}}\frac{X_{n+1}-{\overline{X}}_n}{\sigma }}{\sqrt{\frac{{\chi }^2(n-1)}{n-1}}}$$

而

$$\begin{array}{rl}\sqrt{\frac{n}{n+1}}\frac{X_{n+1}-{\overline{X}}_n}{\sigma }=& \sqrt{\frac{n}{n+1}}\frac{N(\mu ,{\sigma }^2)-N(\mu ,\frac{{\sigma }^2}{n})}{\sigma }\\ =& \sqrt{\frac{n}{n+1}}\frac{N(0,\frac{n+1}{n}{\sigma }^2)}{\sigma }\\ =& \frac{N(0,\frac{n+1}{n}{\sigma }^2)}{\frac{\sigma }{\sqrt{\frac{n+1}{n}}}}\end{array}$$

因此原式服从 $t(n-1)$ 分布.

$\text{Qn9}$ 设总体 $X\sim N({\mu }_1,{\sigma }^2)$ 与总体 $Y\sim N({\mu }_2,{\sigma }^2)$ 相互独立, $X_1,X_2,\cdots ,X_n$ 与 $Y_1,Y_2,\cdots ,Y_m$ 分别为 $X$ 和 $Y$ 的样本，$\alpha ,\beta$ 为常数，证明

$$T=\frac{\alpha (\overline{X}-{\mu }_1)+\beta (\overline{Y}-{\mu }_2)}{\sqrt{\frac{(n-1)S_1^2+(m-1)S_2^2}{n+m-2}}\sqrt{\frac{{\alpha }^2}{n}+\frac{{\beta }^2}{m}}}$$

服从 $t(n+m-2)$ 分布.

$\text{Sol}$ 先考虑

$$\begin{array}{rl}{S}_{\omega }=& \sqrt{\frac{(n-1)S_1^2+(m-1)S_2^2}{n+m-2}}\\ =& \sigma \sqrt{\frac{\frac{(n-1)S_1^2}{{\sigma }^2}+\frac{(m-1)S_2^2}{{\sigma }^2}}{n+m-2}}\\ =& \sigma \sqrt{\frac{{\chi }^2(n+m-2)}{n+m-2}}\end{array}$$

接下来

$$\alpha (\overline{X}-{\mu }_1)+\beta (\overline{Y}-{\mu }_2)=N(\alpha {\mu }_1+\beta {\mu }_2,{\alpha }^2\frac{{\sigma }^2}{n}+{\beta }^2\frac{{\sigma }^2}{m})-(\alpha {\mu }_1+\beta {\mu }_2)$$

标准化得证。

$\text{Qn10}$ 设总体为 $X$, 总体均值 $E(X)=\mu$ 和总体方差 $D(X)={\sigma }^2$ 存在. $X_1,X_2,\cdots ,X_n$ 为来自总体 $X$ 的一个样本，求 $\mu$ 和 ${\sigma }^2$ 的矩估计量。

$\text{Sol}$ 矩估计：

$$\{\begin{array}{l}E(X)=\overline{X}\\ E(X^2)=D(X)+(E(X){)}^2=A_2\end{array}$$

即

$$\{\begin{array}{l}\mu =\overline{X}\\ {\sigma }^2+{\mu }^2={\displaystyle \frac{1}{n}}{\displaystyle \sum _{i=1}^n{X}_i^2}\end{array}$$

解得

$$\{\begin{array}{l}\hat{\mu }=\overline{X}\\ {\hat{\sigma }}^2={\displaystyle \frac{1}{n}}{\displaystyle \sum _{i=1}^n(X_i-\overline{X}{)}^2}\end{array}$$

$\text{Qn11}$ 设总体 $X\sim N(\mu ,{\sigma }^2)$, $X_1,X_2,\cdots ,X_n$ 为来自总体的一个样本，求未知参数 $\mu$ 和 ${\sigma }^2$ 的最大似然估计量.

$\text{Sol}$ 概率密度函数为

$$f(x;\mu ,{\sigma }^2)=\frac{1}{\sqrt{2\pi }\sigma }{\text{e}}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$

似然函数为

$$L(\mu ,{\sigma }^2)=\prod _{i=1}^n\frac{1}{\sqrt{2\pi }\sigma }{\text{e}}^{-\frac{(x_i-\mu {)}^2}{2{\sigma }^2}}=(2\pi {\sigma }^2{)}^{-\frac{n}{2}}{\text{e}}^{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(x_i-\mu {)}^2}$$

取对数后关于 $\mu$, ${\sigma }^2$ 求偏导

$$\{\begin{array}{l}{\displaystyle \frac{\partial \ln L(\mu ,{\sigma }^2)}{\partial \mu }}={\displaystyle \frac{1}{{\sigma }^2}}{\displaystyle \sum _{i=1}^n(x_i-\mu )=0}\\ {\displaystyle \frac{\partial \ln L(\mu ,{\sigma }^2)}{\partial {\sigma }^2}}=-{\displaystyle \frac{n}{2{\sigma }^2}}+{\displaystyle \frac{1}{2{\sigma }^4}}{\displaystyle \sum _{i=1}^n(x_i-\mu {)}^2=0}\end{array}$$

解得

$$\{\begin{array}{l}\hat{\mu }=\overline{X}\\ {\hat{\sigma }}^2={\displaystyle \frac{1}{n}}{\displaystyle \sum _{i=1}^n(X_i-\overline{X}{)}^2}\end{array}$$

最大似然法解得的结果和矩估计法不总是相同.

$\text{Qn12}$ 设某车间生产的滚珠的直径 $X\sim N(\mu ,{\sigma }^2)$, 现从某日生产的滚珠中抽取 $9$ 个,测得样本方差为 $s^2={0.25}^2$, 在 $0.95$ 置信度下求总体方差的 ${\sigma }^2$ 的置信区间.

$\text{Sol}$ 先判定为单总体, 使用

$$\frac{n-1}{{\sigma }^2}{s}^2\sim {\chi }^2(n-1)$$

根据分位点的恒等式

$$\begin{array}{r}P({\chi }_{1-\frac{\alpha }{2}}^2(n-1)\le \frac{n-1}{{\sigma }^2}{s}^2\le {\chi }_{\frac{\alpha }{2}}^2(n-1))=1-\alpha \end{array}$$

解得

$$\frac{(n-1)s^2}{{\chi }_{\frac{\alpha }{2}}^2(n-1)}\le {\sigma }^2\le \frac{(n-1)s^2}{{\chi }_{1-\frac{\alpha }{2}}^2(n-1)}$$

代入数据得置信区间 $[0.03,0.23]$.

$\text{Qn13}$ 设某车间生产的滚珠的直径 $X\sim N(\mu ,{\sigma }^2)$, 现从某日生产的滚珠中抽取 $9$ 个, 测得样本方差为 $s^2={0.25}^2$, 在显著性水平 $0.05$ 下是否可以认为总体方差的 ${\sigma }^2={0.36}^2$?

$\text{Sol}$ 先判定为双侧检验, 原假设 $H_0:{\sigma }^2={0.36}^2$, 备择假设 $H_1:{\sigma }^2\ne {0.36}^2$

使用统计量

$${\chi }^2=\frac{n-1}{{\sigma }^2}{S}^2\sim {\chi }^2(n-1)$$

得

$$P({\chi }^2<{\chi }_{1-\frac{\alpha }{2}}^2(n-1)\vee {\chi }^2>{\chi }_{\frac{\alpha }{2}}^2(n-1))=\alpha$$

拒绝域为 ${\chi }^2<{\chi }_{1-\frac{\alpha }{2}}^2(n-1)$ 或 ${\chi }^2>{\chi }_{\frac{\alpha }{2}}^2(n-1)$
代入数据得 ${\chi }^2$ 没有落在拒绝域中, 应接受原假设.

$\text{Qn14}$ 推导

$$F_{\alpha }(m,n)=\frac{1}{F_{1-\alpha }(n,m)}$$

$\text{Sol}$ 根据定义

$$\begin{array}{rl}& X\sim F(m,n)Y\sim F(n,m)\\ & x=F_{\alpha }(m,n)y=F_{1-\alpha }(n,m)\\ & P(X>x)=\alpha P(Y\le y)=\alpha \end{array}$$

考虑

$$\begin{array}{rl}& X=\frac{1}{Y}\\ & P(X>x)=P(Y\le y)\end{array}$$

因此

$$F_{\alpha }(m,n)=\frac{1}{F_{1-\alpha }(n,m)}$$

$\text{Qn15}$ 推导泊松分布的分布列是二项分布的极限.

$\text{Sol}$ 目标是证明

$$\begin{array}{r}\underset{n\to \mathrm{\infty }}{lim}np=\lambda \Rightarrow \underset{n\to \mathrm{\infty }}{lim}{C}_n^k{p}^k(1-p{)}^{n-k}=\frac{{\lambda }^k}{k!}{\text{e}}^{-\lambda }\end{array}$$

考虑展开

$$\begin{array}{rl}{C}_n^k{p}^k(1-p{)}^{n-k}\to & \frac{n!}{k!(n-k)!}\cdot \frac{{\lambda }^k}{n^k}\cdot {(1-\frac{\lambda }{n})}^{n-k}\\ \to & \frac{n!}{(n-k)!(n-\lambda {)}^k}\cdot \frac{{\lambda }^k}{k!}{\text{e}}^{-\lambda }\\ \to & \frac{{\lambda }^k}{k!}{\text{e}}^{-\lambda }\end{array}$$

$\text{Qn16}$ 推导正态分布标准化方法.

$\text{Sol}$ 目标是证明

$$\{\begin{array}{l}\phi (x)={\displaystyle \frac{1}{\sqrt{2\pi }\sigma }}{\text{e}}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}\\ t={\displaystyle \frac{x-\mu }{\sigma }}\end{array}\Rightarrow f(t)={\displaystyle \frac{1}{\sqrt{2\pi }}}{\text{e}}^{-\frac{t^2}{2}}$$

考虑分布函数

$$\begin{array}{rl}F(t)=& P(T\le t)\\ =& P(X\le \sigma t+\mu )\\ =& {\int }_{-\mathrm{\infty }}^{\sigma t+\mu }\phi (x)\text{d}x\\ =& {\int }_{-\mathrm{\infty }}^{\sigma t+\mu }\frac{1}{\sqrt{2\pi }\sigma }{\text{e}}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}\text{d}x\\ =& {\int }_{-\mathrm{\infty }}^t\frac{1}{\sqrt{2\pi }}{\text{e}}^{-\frac{t^2}{2}}\text{d}t\end{array}$$

因此

$$f(t)=\frac{1}{\sqrt{2\pi }}{\text{e}}^{-\frac{t^2}{2}}$$

$\text{Qn17}$ 推导方差的计算公式.

$\text{Sol}$

$$\begin{array}{rl}D(X)=& E((X-E(X){)}^2)\\ =& E((X-\sum _i{x}_i{p}_i{)}^2)\\ =& \sum _j(x_j-\sum _i{x}_i{p}_i{)}^2{p}_j\\ =& \sum _j{x}_j^2{p}_j-2\sum _j{x}_j{p}_j\sum _i{x}_i{p}_i+\sum _j{p}_j(\sum _i{x}_i{p}_i{)}^2\\ =& E(X^2)-2E^2(X)+E(E^2(X))\\ =& E(X^2)-E^2(X)\end{array}$$

特殊地, 若 $p_i={\displaystyle \frac{1}{n}}$, 则 ${\displaystyle D(X)=\frac{1}{n}\sum _{i=1}^n{x}_i^2-{\overline{X}}^2}$.

$\text{Qn18}$ 计算各种分布的期望和方差.

$\text{Sol}$ 0-1 分布:

$$E(X)=p,D(X)=E(X^2)-E^2(X)=p-p^2$$

二项分布:

$$\begin{array}{rl}E(X)=& \sum _{k=1}^{n}k{C}_n^k{p}^k(1-p{)}^{n-k}\\ =& n\sum _{k=1}^n{C}_{n-1}^{k-1}{p}^k(1-p{)}^{n-k}\\ =& np\sum _{k=1}^n{C}_{n-1}^{k-1}{p}^{k-1}(1-p{)}^{n-k}\\ =& np(p+1-p{)}^{n-1}\\ =& np\\ D(X)=& E(X^2)-E^2(X)\\ =& \sum _{i=1}^n{k}^2{C}_n^k{p}^k(1-p{)}^{n-k}-n^2{p}^2\\ =& np\sum _{k=1}^n{C}_{n-1}^{k-1}{p}^{k-1}(1-p{)}^{n-k}+n(n-1)p^2\sum _{k=2}^n{C}_{n-2}^{k-2}{p}^{k-2}(1-p{)}^{n-k}-n^2{p}^2\\ =& np+n(n-1)p^2-n^2{p}^2\\ =& np(1-p)\end{array}$$

泊松分布:

$$\begin{array}{rl}E(X)=& \sum _{i=1}^{\mathrm{\infty }}i\frac{{\lambda }^i}{i!}{\text{e}}^{-\lambda }\\ =& \lambda {\text{e}}^{-\lambda }\sum _{i=0}^{\mathrm{\infty }}\frac{{\lambda }^i}{i!}\\ =& \lambda \\ D(X)=& E(X^2)-E^2(X)\\ =& \lambda {\text{e}}^{-\lambda }\sum _{i=1}^{\mathrm{\infty }}i\frac{{\lambda }^{i-1}}{(i-1)!}-{\lambda }^2\\ =& \lambda (\lambda +1){\text{e}}^{-\lambda }\sum _{i=0}^{\mathrm{\infty }}\frac{{\lambda }^i}{i!}-{\lambda }^2\\ =& {\lambda }^2+\lambda -{\lambda }^2\\ =& \lambda \end{array}$$

几何分布:

$$\begin{array}{rl}E(X)=& \sum _{k=1}^{\mathrm{\infty }}kp(1-p{)}^{k-1}\\ =& -p\frac{\text{d}}{\text{d}p}\sum _{k=0}^{\mathrm{\infty }}(1-p{)}^k\\ =& -p\frac{\text{d}}{\text{d}p}\frac{1}{p}\\ =& \frac{1}{p}\\ D(X)=& E(X^2)-E^2(X)\\ =& \sum _{k=1}^{\mathrm{\infty }}{k}^{2}p(1-p{)}^{k-1}-\frac{1}{p^2}\\ =& p\frac{\text{d}}{\text{d}p}((1-p)\frac{\text{d}}{\text{d}p}\sum _{k=1}^{\mathrm{\infty }}(1-p{)}^k)-\frac{1}{p^2}\\ =& -\frac{1}{p}+\frac{2}{p^2}-\frac{1}{p^2}\\ =& \frac{1-p}{p^2}\end{array}$$

均匀分布:

$$\begin{array}{rl}E(X)=& {\int }_a^b\frac{1}{b-a}x\text{d}x\\ =& \frac{1}{b-a}(\frac{b^2}{2}-\frac{a^2}{2})\\ =& \frac{a+b}{2}\\ D(X)=& E(X^2)-E^2(X)\\ =& {\int }_a^b\frac{1}{b-a}{x}^2\text{d}x-\frac{(a+b{)}^2}{4}\\ =& \frac{1}{3}(a^2+b^2+ab)-\frac{1}{4}(a+b{)}^2\\ =& \frac{(b-a{)}^2}{12}\end{array}$$

指数分布:

$$\begin{array}{rl}E(X)=& \lambda {\int }_0^{+\mathrm{\infty }}x{\text{e}}^{-\lambda x}\text{d}x\\ =& (-x{\text{e}}^{-\lambda x}-\frac{{\text{e}}^{-\lambda x}}{\lambda }){|}_0^{+\mathrm{\infty }}\\ =& \frac{1}{\lambda }\\ D(X)=& E(X^2)-E^2(X)\\ =& \lambda {\int }_0^{+\mathrm{\infty }}{x}^2{\text{e}}^{-\lambda x}\text{d}x-\frac{1}{{\lambda }^2}\\ =& \frac{2}{{\lambda }^2}-\frac{1}{{\lambda }^2}\\ =& \frac{1}{{\lambda }^2}\end{array}$$

$\text{Qn19}$ 证明独立的正态分布的和仍然服从正态分布.

$\text{Sol}$ 先说明一个引理:

$$P(X+Y=z)=\sum P(X=x,Y=z-x)={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,z-x)\text{d}x$$

这告诉我们变量的和分布等同于变量的卷积.

下面开始证明:
设 $X\sim N({\mu }_1,{\sigma }_1^2),Y\sim N({\mu }_2,{\sigma }_2^2),Z=aX+bY,\sigma =\sqrt{{\sigma }_1^2+{\sigma }_2^2}$

$$\begin{array}{rl}f(z)=& {\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,z-x)\text{d}x\\ =& {\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{f}_X(x)f_Y(z-x)\text{d}x\\ =& {\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}\frac{1}{\sqrt{2\pi }{\sigma }_1}{\text{e}}^{-\frac{(x-{\mu }_1{)}^2}{2{\sigma }_1^2}}\cdot \frac{1}{\sqrt{2\pi }{\sigma }_2}{\text{e}}^{-\frac{(z-x-{\mu }_2{)}^2}{2{\sigma }_2^2}}\text{d}x\\ =& \frac{1}{2\pi {\sigma }_1{\sigma }_2}{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{\text{e}}^{-\frac{{\sigma }_2^2(x-{\mu }_1{)}^2+{\sigma }_1^2(z-x-{\mu }_2{)}^2}{2{\sigma }_1^2{\sigma }_2^2}}\text{d}x\\ =& \frac{1}{2\pi {\sigma }_1{\sigma }_2}{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{\text{e}}^{-\frac{({\sigma }_1^2+{\sigma }_2^2)x^2+2(({\mu }_2-z){\sigma }_1^2-{\mu }_1{\sigma }_2^2)x+(z^2+{\mu }_2^2-2z{\mu }_2){\sigma }_1^2+{\mu }_1^2{\sigma }_2^2}{2{\sigma }_1^2{\sigma }_2^2}}\text{d}x\\ =& \frac{1}{2\pi {\sigma }_1{\sigma }_2}{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{\text{e}}^{-\frac{x^2+\frac{2(({\mu }_2-z){\sigma }_1^2-{\mu }_1{\sigma }_2^2)x}{{\sigma }^2}+\frac{(z^2+{\mu }_2^2-2z{\mu }_2){\sigma }_1^2+{\mu }_1^2{\sigma }_2^2}{{\sigma }^2}}{\frac{2{\sigma }_1^2{\sigma }_2^2}{{\sigma }^2}}}\text{d}x\\ =& \frac{1}{2\pi {\sigma }_1{\sigma }_2}{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{\text{e}}^{-\frac{{(x-\frac{(z-{\mu }_2){\sigma }_1^2+{\mu }_1{\sigma }_2^2}{{\sigma }^2})}^2+\frac{(z^2+{\mu }_2^2-2z{\mu }_2){\sigma }_1^2+{\mu }_1^2{\sigma }_2^2}{{\sigma }^2}-{\left(\frac{(z-{\mu }_2){\sigma }_1^2+{\mu }_1{\sigma }_2^2}{{\sigma }^2}\right)}^2}{\frac{2{\sigma }_1^2{\sigma }_2^2}{{\sigma }^2}}}\text{d}x\\ =& \frac{1}{\sqrt{2\pi }\sigma }{\text{e}}^{-\frac{{\sigma }^2((z^2+{\mu }_2^2-2z{\mu }_2){\sigma }_1^2+{\mu }_1^2{\sigma }_2^2)-((z-{\mu }_2){\sigma }_1^2+{\mu }_1{\sigma }_2^2{)}^2}{2{\sigma }^2{\sigma }_1^2{\sigma }_2^2}}{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}\frac{1}{\sqrt{2\pi }\frac{{\sigma }_1{\sigma }_2}{\sigma }}{\text{e}}^{-\frac{{(x-\frac{(z-{\mu }_2){\sigma }_1^2+{\mu }_1{\sigma }_2^2}{{\sigma }^2})}^2}{2\frac{{\sigma }_1^2{\sigma }_2^2}{{\sigma }^2}}}\text{d}x\\ =& \frac{1}{\sqrt{2\pi }\sigma }{\text{e}}^{-\frac{{\sigma }_1^2{\sigma }_2^2{z}^2-2{\sigma }_1^2{\sigma }_2^2({\mu }_1+{\mu }_2)z+{\sigma }_1^2{\sigma }_2^2({\mu }_1^2+{\mu }_2^2)+2{\mu }_1{\mu }_2{\sigma }_1^2{\sigma }_2^2}{2{\sigma }^2{\sigma }_1^2{\sigma }_2^2}}\\ =& \frac{1}{\sqrt{2\pi }\sigma }{\text{e}}^{-\frac{z^2-2({\mu }_1+{\mu }_2)z+({\mu }_1+{\mu }_2{)}^2}{2{\sigma }^2}}\\ =& \frac{1}{\sqrt{2\pi }\sigma }{\text{e}}^{-\frac{(z-({\mu }_1+{\mu }_2){)}^2}{2{\sigma }^2}}\end{array}$$

证毕.

$\text{Qn20}$ 证明样本均值 $\overline{X}$ 和样本方差 $S^2$ 分别是 $\mu$ 和 ${\sigma }^2$ 的无偏估计量.

$\text{Sol}$

$$\begin{array}{rl}E(\overline{X})=& E\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)\\ =& \frac{1}{n}\sum _{i=1}^{n}E(X_i)\\ =& \frac{1}{n}\cdot n\mu \\ =& \mu \\ E(S^2)=& E(\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2)\\ =& \frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-n{\overline{X}}^2)\\ =& \frac{1}{n-1}(\sum _{i=1}^{n}E(X_i^2)-nE({\overline{X}}^2))\\ =& \frac{1}{n-1}(\sum _{i=1}^n(E^2(X_i)+D(X_i))-n(E^2(\overline{X})+D(\overline{X})))\\ =& \frac{1}{n-1}(n({\mu }^2+{\sigma }^2)-n({\mu }^2+\frac{{\sigma }^2}{n}))\\ =& {\sigma }^2\end{array}$$

3 理解

• 大写字母代表随机变量, 小写字母代表随机变量的值.

• 全概率公式基于样本空间的划分计算总概率, 由原因推结果; 贝叶斯公式基于总概率反推原先划分的概率, 由结果推原因.

• 独立事件的条件概率只需要将条件代入即可, 不用将积事件除以条件事件.

• 分布函数 (CDF, Cumulative Distribution Function) 是不超过某个值的概率总和, 离散的分布列 (PMF, Probability Mass Function) 或连续的密度函数 (PDF, Probability Density Function) 是某个值的概率. 分布函数一定单调不减趋于 1.

• 相关性指的是两个变量具有线性关系的程度, 独立性指的是一个变量的取值对另一个变量没有影响. 如果两变量独立, 那么相关系数一定为 0. 只有任意阶原点矩的相关性均为 0, 两变量才独立.

• 期望等同于均值, 一个随机变量取到期望的概率最大. 方差用来描述随机变量的离散程度, 方差越小数据越集中.

• 协方差是描述两个随机变量的线性相关方向的指标, 它的值与变量取值有关, 因此其大小无意义; 相关系数是描述两个随机变量的线性相关方向和程度的指标, 它的值是标准化后的协方差, 因此其大小可以衡量程度.

• 在能够计算理论值的前提下, 期望和方差就像高中学过的那样计算; 在不能够得知样本全貌的情况下, 我们只能计算样本均值和样本方差, 然后通过它们预计理论上期望和方差的值.

• 点估计用于从样本数据计算出总体参数的单一值; 区间估计用于从样本数据计算出总体参数范围; 假设检验用于从样本数据对总体参数进行推断，它可以用来检验总体参数的假设值是否成立; 它们思想的本质都是用测量的数据趋近理论的数据.

4 真题

$\text{Qn1}$ 判断对错:
(1) 三个事件 $A,B,C$ 两两独立, 那么 $A,B,C$ 相互独立.
(2) 随机变量分为离散型随机变量和连续型随机变量.
(3) 伯努利大数定律表明只要重复试验的次数充分大, 那么事件发生的频率就是概率.
(4) 若事件 $A$ 与事件 $B$ 相互独立, $C$ 为 $B$ 的子集, 则 $A$ 与 $C$ 也相互独立.

$\text{Sol}$ 全错.
(1) 对于 $n$ 个事件, 如果对于任意 $2$ 个, 任意 $3$ 个, $\cdots$, 任意 $n$ 个事件的积事件的概率, 都等于各事件概率的积, 那么称这些事件相互独立.
(2) 随机变量可以又不离散又不连续, 比如分段的.
(3) 体会一下 "收敛于" 概率和 "就是" 概率的区别.
(4) $A$ 和 $C$ 可以没有任何交集, 因此不一定独立.

$\text{Qn2}$ 已知 $P(A)=0.1,P(B)=0.5,A\subset B$, 求 $P(A\cup \overline{B}|\overline{A})$.

$\text{Sol}$

$$\begin{array}{rl}P(A\cup \overline{B}|\overline{A})=& \frac{P(\overline{A}\cap \overline{B})}{P(\overline{A})}\\ =& \frac{P(\overline{A\cup B})}{P(\overline{A})}\\ =& \frac{1-P(B)}{1-P(A)}\\ =& \frac{5}{9}\end{array}$$

$\text{Qn3}$ 设 $X_1,X_2,\cdots ,X_{1}0$ 是来自总体 $X$ 的一组样本, 样本一阶矩和二阶矩分别是 $2.6$ 和 $12.9$, 计算样本方差.

$\text{Sol}$ 考虑

$$\{\begin{array}{l}E(X)=A_1\\ D(X)+E^2(X)=A_2\\ S^2={\displaystyle \frac{n}{n-1}}D(X)\end{array}$$

联立解得 $S^2=6.82$.

$\text{Qn4}$ 将一个骰子连续重复掷 $4$ 次, 以 $X$ 表示 $4$ 次掷出的点数之和, 则 $P(10<X<18)\ge ?$

$\text{Sol}$ 记 $X_k$ 表示第 $k$ 次的点数, 则它们独立同分布.

$$E(X_k)=\frac{7}{2}D(X_k)=E(X_k^2)-E^2(X_k)=\frac{1}{6}(1^2+2^2+\cdots +6^2)-{\left(\frac{7}{2}\right)}^2=\frac{35}{12}$$

令 $X={\displaystyle \sum _{k=1}^4{X}_k}$

$$E(X)=4E(X_k)=14D(X)=D(\sum _{k=1}^4{X}_k)=4D(X_k)=\frac{35}{3}$$

由契比雪夫不等式

$$P(10<X<18)=P(|X-14|<4)\ge 1-\frac{\frac{35}{3}}{4^2}=\frac{13}{48}$$

$\text{Qn5}$ 已知联合密度函数 $f(x,y)={\text{e}}^{-x}$, $0<y<x$, 计算条件概率 $P(Y>2|X=3)$.

$\text{Sol}$ 根据定义, 首先计算 $f_{Y|X}(y|x)$

$$\begin{array}{rl}{f}_{Y|X}(y|x)=& \frac{f(x,y)}{f_X(x)}\\ =& \frac{f(x,y)}{{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,y)\text{d}y}\\ =& \frac{{\text{e}}^{-x}}{x{\text{e}}^{-x}}\\ =& \frac{1}{x}\end{array}$$

后代入 $X=3$

$$\begin{array}{rl}P(Y>2|X=3)=& 1-P(Y\le 2|X=3)\\ =& 1-{\int }_{-\mathrm{\infty }}^2{f}_{Y|X}(y|x)\text{d}y\\ =& 1-{\int }_{-\mathrm{\infty }}^2\frac{1}{x}\text{d}y\\ =& \frac{1}{3}\end{array}$$

$\text{Qn6}$ 设 $(X,Y)$ 的联合密度函数为 ${\displaystyle f(x,y)=\frac{1}{2\pi }{\text{e}}^{-\frac{x^2+y^2}{2}}(1+\sin x\sin y)}$, 计算: (1) $f_X(x),f_Y(y)$, 并判断 $X,Y$ 独立性; (2) $f_{Y|X}(y|x)$, $P(Y<0|X=0)$.

$\text{Sol}$ (1) $X$ 和 $Y$ 是对称的

$$\begin{array}{rl}{f}_X(x)=& {\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}f(x,y)\text{d}y\\ =& \frac{1}{2\pi }{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{\text{e}}^{-\frac{x^2+y^2}{2}}(1+\sin x\sin y)\text{d}y\\ =& \frac{1}{2\pi }{\text{e}}^{-\frac{x^2}{2}}({\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{\text{e}}^{-\frac{y^2}{2}}+\sin x{\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}{\text{e}}^{-\frac{y^2}{2}}\sin y\text{d}y)\\ =& \frac{1}{\sqrt{2\pi }}{\text{e}}^{-\frac{x^2}{2}}\\ f_Y(y)=& \frac{1}{\sqrt{2\pi }}{\text{e}}^{-\frac{y^2}{2}}\end{array}$$

由 $f_X(x)f_Y(y)\ne f(x,y)$ 知 $X$ 与 $Y$ 不独立.

(2)

$$\begin{array}{rl}{f}_{Y|X}(y|x)=& \frac{f(x,y)}{f_X(x)}\\ =& \frac{1}{\sqrt{2\pi }}{\text{e}}^{-\frac{y^2}{2}}(1+\sin x\sin y)\end{array}$$

代入 $X=0$, 考虑正态分布的性质

$$P(Y<0|X=0)={\int }_{-\mathrm{\infty }}^0\frac{1}{\sqrt{2\pi }}{\text{e}}^{-\frac{y^2}{2}}\text{d}y=\frac{1}{2}$$

$\text{Qn7}$ 已知二维随机变量 $(X,Y)$ 的联合分布函数为 $F(x,y)=A(B+\arctan x)(C+\arctan y)$
(1) 求常数 $A,B,C$
(2) 判断 $X$ 与 $Y$ 是否独立
(3) 求 $f_{X|Y}(x|y)$

$\text{Sol}$ (1) 考虑 $F(+\mathrm{\infty },+\mathrm{\infty })=1,F(-\mathrm{\infty },y)=F(x,-\mathrm{\infty })=0$
解得 $A={\displaystyle \frac{1}{{\pi }^2}},B={\displaystyle \frac{\pi }{2}},C={\displaystyle \frac{\pi }{2}}$

(2)

$$\begin{array}{rl}{F}_X(x)=& F(x,+\mathrm{\infty })=\frac{1}{\pi }(\frac{\pi }{2}+\arctan x)\\ F_Y(y)=& F(+\mathrm{\infty },y)=\frac{1}{\pi }(\frac{\pi }{2}+\arctan y)\\ F(x,y)=& F_X(x)F_Y(y)\end{array}$$

因此相互独立.

(3)

$$\begin{array}{rl}{f}_{X|Y}(x|y)=& \frac{f(x,y)}{f_Y(y)}\\ =& f_X(x)\\ =& \frac{1}{\pi }\frac{1}{1+x^2}\end{array}$$

$\text{Qn8}$ 随机变量 $X$ 的概率密度 $f(x)=\{\begin{array}{l}2x,0<x<1\\ 0,\text{其他}\end{array}$, 对 $X$ 独立重复试验 $162$ 次, 设观察到的值小于 ${\displaystyle \frac{1}{3}}$ 的次数为 $Y$, 求 $P(Y>22)$ 的近似值.

$\text{Sol}$ 先计算二项分布的 $p$

$$\begin{array}{rl}p=& P(X<\frac{1}{3})\\ =& F(\frac{1}{3})\\ =& {\int }_0^{\frac{1}{3}}2x\text{d}x\\ =& \frac{1}{9}\end{array}$$

接下来计算二项分布的期望和方差

$$\begin{array}{rl}E(X)=& np=18\\ D(X)=& np(1-p)=16\end{array}$$

由中心极限定理, 二项分布趋近于正态分布 $N(18,16)$

$$\begin{array}{rl}P(Y>22)=& P(\frac{Y-18}{4}>1)\\ =& 1-\mathrm{\Phi }(1)\\ =& 0.1587\end{array}$$

$\text{Qn9}$ 设总体 $X$ 的概率密度为 $f(x)=\{\begin{array}{l}\theta c^{\theta }{x}^{-(\theta +1)},x>c\\ 0,x\le c\end{array}$, 其中 $c>0$ 为已知参数, $\theta >1$ 为未知参数, $X_1,X_2,\cdots ,X_n$ 为来自 $X$ 的一个样本, $x_1,x_2,\cdots ,x_n$ 为相应的样本值, 求 $\theta$ 的矩估计量与最大似然估计量.

$\text{Sol}$ 矩估计:

$$\begin{array}{r}E(X)=\frac{1}{n}\sum _{i=1}^n{x}_i={\int }_c^{+\mathrm{\infty }}\theta c^{\theta }{x}^{-\theta }\text{d}x=\frac{c\theta }{\theta -1}\end{array}$$

解得

$$\hat{\theta }=\frac{\sum _{i=1}^n{x}_i}{\sum _{i=1}^n{x}_i-cn}$$

最大似然法:

$$\begin{array}{rl}L(\theta )=& \prod _{i=1}^n\theta c^{\theta }{x}_i^{-(\theta +1)}\\ =& (\theta c^{\theta }{)}^n{\left(\prod _{i=1}^n{x}_i\right)}^{-(\theta +1)}\\ \ln L(\theta )=& n\ln \theta +(n\ln c-\sum _{i=1}^n\ln (x_i))\theta -\sum _{i=1}^n\ln (x_i)\\ \frac{\text{d}}{\text{d}\theta }\ln L(\theta )=& \frac{n}{\theta }+n\ln c-\sum _{i=1}^n\ln (x_i)=0\end{array}$$

解得

$$\hat{\theta }=\frac{n}{\sum _{i=1}^n\ln (x_i)-n\ln c}$$

$\text{Qn10}$ 一位中学校长在报纸上看到这样一则报道: 中学生每周至少看 $8$ 小时电视. 他认为他所在学校学生看电视时间明显小于 $8$ 小时. 为此在该校随机调查了 $100$ 名学生, 计算平均每周看电视的时间为 $6.5$ 小时. 假设学生每周看电视的时间服从正态分布, 总体方差为 $4$, 在显著性水平 $0.05$ 的条件下, 是否可以认为这个校长的看法正确?

$\text{Sol}$ 原假设 $H_0:\mu \ge 8$, 备择假设 $H_1:\mu <8$
考虑

$$z=\frac{\overline{X}-\mu }{\frac{\sigma }{\sqrt{n}}}\sim N(0,1)$$

拒绝域

$$P(z<z_{1-\alpha })=\alpha$$

计算得

$$z=-7.5<-1.64=z_{0.95}$$

因此落在拒绝域中, 选择备择假设 $H_1$

关于怎样判定拒绝域的方向: 通常情况下和 $H_1$ 的方向相同. 本题中, 由于 $\mu$ 越大也就是 $z$ 越小, 越容易落在拒绝域中, 因此判定为左侧检验, 拒绝域在左侧.