前置知识
期望 \(E[X]\) 即概率的加权平均。
期望具有线性，\(E[ax+b]=aE[x]+b\)。
方差 \(Var(x)=E[X^2]-E^2[x]\)。
类似的，\(Var(ax+b)=a^2Var(x)\)。
二项随机变量
定义
进行 \(n\) 次独立事件，每次成功的概率为 \(p\)，失败的概率为 \(1-p\)，那么成功 \(i\) 次的变量叫做二项随机变量，其参数为 \((n,p)\)，其分布列为：
\[p(i)=\binom nip^i(1-p)^{n-i},i\ge0
\]
「运气轮」游戏：闲家从 \([1,6]\) 选 \(1\) 个数字。庄家扔 \(3\) 枚骰子，如果选取的数字出现了 \(i(1\le i\le3)\) 次，则闲家从庄家赢取 \(i\) 摩拉，否则庄家从闲家赢取 \(1\) 摩拉。
设 \(X\) 为闲家赢取的摩拉：
\[P\{X=-1\}=\binom30(\frac16)^0(\frac56)^3=\frac{125}{256}\\
P\{X=1\}=\binom31(\frac16)^1(\frac56)^2=\frac{75}{256}\\
P\{X=2\}=\binom32(\frac16)^2(\frac56)^1=\frac{15}{256}\\
P\{X=3\}=\binom33(\frac16)^3(\frac56)^0=\frac1{256}\\
E[X]=\frac{-125+75+2\times15+3\times1}{216}=-\frac{17}{216}
\]
期望、方差
\[\begin{aligned}
E[X^k]&=\sum_{i=0}^ni^k\binom nip^i(1-p)^{n-i}\\
&=\sum_{i=1}^ni^k\binom nip^i(1-p)^{n-i}\\
&=np\sum_{i=1}^ni^{k-1}\binom{n-1}{i-1}p^{i-1}(1-p)^{n-i}\\
&=np\sum_{i=1}^ni^{k-1}\binom{n-1}{i-1}p^{i-1}(1-p)^{n-(i-1)-1}\\
&=np\sum_{i=0}^{n-1}(i+1)^{k-1}\binom{n-1}ip^i(1-p)^{n-i-1}\\
\end{aligned}
\]
令 \(Y\) 为参数 \((n-1,p)\) 的二项随机变量，得到：
\[E[X^k]=npE[(Y+1)^{k-1}]
\]
带入 \(k=1\)
\[E[X]=npE[(Y+1)^0]=np
\]
带入 \(k=2\)
\[E[X^2]=npE[(Y+1)^1]=np((n-1)p+1)
\]
\[Var(x)=np((n-1)p+1)-(np)^2=np(1-p)
\]
泊松随机变量
定义
泊松随机变量，其参数为 \((\lambda)\)，其分布列为：
\[p(i)=e^{-\lambda}\frac{\lambda^i}{i!},i\ge0
\]
参数为 \((n,p)\) 的二项随机变量在 \(n\) 充分大，\(p\) 足够小使得 \(np\) 适当时，可以近似看作参数为 \(\lambda=np\) 的泊松随机变量。
\[\begin{aligned}
\binom nip^i(1-p)^{n-i}&=\binom ni(\frac\lambda n)^i(1-\frac\lambda n)^{n-i}\\
&=\frac{n^{\underline i}\lambda^i(1-\frac\lambda n)^n}{i!n^i(1-\frac\lambda n)^i}\\
&=(1-\frac\lambda n)^n\frac{\lambda^i}{i!}\frac{n^{\underline i}}{n!}(1-\frac\lambda n)^i\\
&\approx e^{-\lambda}\frac{\lambda^i}{i!}
\end{aligned}
\]
制作甜甜花酿鸡的失败率为 \(0.1\)，计算生产 \(10\) 个甜甜花酿鸡失败次数不超过 \(1\) 次的概率。
可以运用二项随机变量，\(\binom{10}0\times0.1^0+0.9^{10}+\binom{10}1\times0.1^1+0.9^9=0.7361\)。
可以用泊松随机变量求得一个近似解，\(\lambda=np=0.1\times10=1\)，那么 \(e^{-1}(\frac{1^0}{0!}+\frac{1^1}{1!})=2e^{-1}\approx0.735759\)，算出来还是很接近的。
稻妻的核废水有放射性，每秒平均放出 \(3.2\) 个雷元素，计算放出的雷元素不超过 \(2\) 概率的 近似值。
设有 \(n\) 个分子有放射性（\(n\) 足够大），那么每个分子每秒放出雷元素的概率为 \(\frac{3.2}n\)，那么 \(\lambda=3.2\)。
用泊松随机变量，\(e^{-3.2}(\frac{3.2^0}{0!}+\frac{3.2^1}{1!}+\frac{3.2^2}{2!})\approx0.379904\)。
有 \(n\) 个人，那么有 \(\binom n2\) 个无序二元组关系，其中两个人生日相等的概率为 \(\frac1{365}\)，所以 \(\lambda=\binom n2\frac1{365}=\frac{n(n-1)}{730}\)。
不存在生日重合的概率就是 \(\exp(-\frac{n(n-1)}{730})\)。
同理，如果求不存在三个人生日相同的概率，那么 \(\lambda=\binom n3(\frac1{365})^2\)，不存在三个人生日重合的概率就是 \(\exp(-\binom n3(\frac1{365})^2)\)。
不过以上都是用泊松随机分布算出的近似解。实际上，只要满足各个事件发生的概率较小，并且独立（或者弱相关），就可以看作泊松随机分布。
期望、方差
根据二项随机变量的猜测，\(E[X]=np=\lambda\)，\(Var(X)=np(1-p)\approx np=\lambda\)，也就是说 \(E[X]=Var[X]=\lambda\)？确实如此，接下来证明。
\[\begin{aligned}
E[X]&=\sum_{i=0}^\infty\frac{ie^{-\lambda}\lambda^i}{i!}\\
&=\sum_{i=1}^\infty\frac{ie^{-\lambda}\lambda^i}{i!}\\
&=\lambda\sum_{i=1}^\infty\frac{e^{-\lambda}\lambda^{i-1}}{(i-1)!}\\
&=\lambda\sum_{i=0}^\infty\frac{e^{-\lambda}\lambda^i}{i!}\\
&=\lambda e^{-\lambda}\sum_{i=0}^\infty\frac{\lambda^i}{i!}\\
&=\lambda e^{-\lambda}e^\lambda\\
&=\lambda
\end{aligned}
\]
\[\begin{aligned}
E[X^2]&=\sum_{i=0}^\infty\frac{i^2e^{-\lambda}\lambda^i}{i!}\\
&=\sum_{i=1}^\infty\frac{i^2e^{-\lambda}\lambda^i}{i!}\\
&=\lambda\sum_{i=1}^\infty\frac{i^2e^{-\lambda}\lambda^{i-1}}{i!}\\
&=\lambda\sum_{i=1}^\infty\frac{ie^{-\lambda}\lambda^{i-1}}{(i-1)!}\\
&=\lambda\sum_{i=0}^\infty\frac{(i+1)e^{-\lambda}\lambda^i}{i!}\\
&=\lambda(\sum_{i=0}^\infty\frac{ie^{-\lambda}\lambda^i}{i!}+\sum_{i=0}^\infty\frac{e^{-\lambda}\lambda^i}{i!})\\
&=\lambda(\lambda+1)
\end{aligned}
\]
\[Var(X)=E[X^2]-E^2[X]=\lambda(\lambda+1)-\lambda^2=\lambda
\]
几何随机变量
定义
重复进行独立事件，每次成功的概率为 \(p\)，失败的概率为 \(1-p\)，那么第 \(i\) 次时第一次成功的变量叫做几何随机变量，其参数为 \((p)\)，其分布列为：
\[p(i)=(1-p)^{i-1}p,i\ge r
\]
不难证明到最后成功的概率为 \(1\)。
\[\sum_{i=1}^\infty(1-p)^ip=p\sum_{i=1}^\infty(1-p)^i=\frac{p}{1-(1-p)}=1
\]
期望、方差
记 \(q=1-p\)
\[\begin{aligned}
E[X]&=\sum_{i=1}^\infty iq^{i-1}p\\
&=\sum_{i=1}^\infty(i-1+1)q^{i-1}p\\
&=\sum_{i=1}^\infty(i-1)q^{i-1}p+\sum_{i=1}^\infty q^{i-1}p\\
&=\sum_{i=0}^\infty iq^ip+1\\
&=q\sum_{i=0}^\infty iq^{i-1}p+1\\
&=qE[X]+1
\end{aligned}
\]
\[E[X]=\frac1{1-q}=\frac1p
\]
\[\begin{aligned}
E[X^2]&=\sum_{i=1}^\infty i^2q^{i-1}p\\
&=\sum_{i=1}^\infty(i-1+1)^2q^{i-1}p\\
&=\sum_{i=1}^\infty(i-1)^2q^{i-1}p+\sum_{i=1}^\infty2(i-1)q^{i-1}p+\sum_{i=1}^\infty q^{i-1}p\\
&=\sum_{i=0}^\infty i^2q^ip+2\sum_{i=0}^\infty iq^ip+1\\
&=qE[X^2]+2qE[X]+1
\end{aligned}
\]
\[E[X^2]=\frac{2q+p}{p^2}=\frac{q+1}{p^2}
\]
\[Var(X)=\frac{q+1}{p^2}-\frac1{p^2}=\frac{1-p}{p^2}
\]
负二项随机变量
定义
重复进行独立事件，每次成功的概率为 \(p\)，失败的概率为 \(1-p\)，那么第 \(i\) 次后满足累计 \(r\) 次成功的变量叫做负二项随机变量，其参数为 \((r,p)\)，其分布列为：
\[\binom{i-1}{r-1}p^r(1-p)^{n-r},i\ge1
\]
因为负二项随机变量相当于 \(r\) 个几何随机变量叠加，所以其结束的概率必然为 \(1\)。
参数为 \((p)\) 的几何随机变量就是参数为 \((1,p)\) 的负二项随机变量。
温迪摘花瓣，有两朵花各有 \(n\) 片花瓣。每次温迪随机从一朵花上摘除一片花瓣，问他第一次试图从摘空的花上摘花瓣，另一朵花有 \(k\) 片花瓣的概率。
这个事件只会发生在第 \(2n-k+1\) 次摘花瓣时，这朵花现在摘了 \(n+1\) 次，满足参数为 \((n+1,\frac12)\) 的负二项随机变量，所以概率就是 \(\binom{2n-k}n(\frac12)^{2n-k+1}\)。
\[\begin{aligned}
E[X^k]&=\sum_{i=r}^\infty i^k\binom{i-1}{r-1}p^r(1-p)^{i-r}\\
&=\frac rp\sum_{i=r}^\infty i^{k-1}\binom irp^{r+1}(1-p)^{i-r}\\
&=\frac rp\sum_{i=r+1}^\infty(i-1)^{k-1}\binom{i-1}rp^{r+1}(1-p)^{i-(r+1)}
\end{aligned}
\]
令 \(Y\) 为参数 \((r+1,p)\) 的负二项随机变量，得到：
\[E[X^k]=\frac rpE[(Y-1)^{k-1}]
\]
带入 \(k=1\)
\[E[X]=\frac rp
\]
带入 \(k=2\)
\[E[X^2]=\frac rpE[Y-1]=\frac rp(\frac{r+1}p-1)
\]
\[Var(X)=\frac rp(\frac{r+1}p-1)-(\frac rp)^2=\frac{r(1-p)}{p^2}
\]
超几何随机变量
定义
一个罐子有 \(N\) 个球，其中 \(m\) 个关键球，\(N-m\) 个无关球，随机不放回取出 \(n\) 个球，取出的白球数叫做超几何随机变量，其参数为 \((n,N,m)\)，其分布列为：
\[\frac{\binom mi\binom{N-m}{n-i}}{\binom Nn},0\le i\le n
\]
当 \(N,m\gg n,i\) 时，放回和不放回类似，那么这个超几何随机变量就近似于参数为 \((n,\frac mN)\) 的二项随机变量。
\[\begin{aligned}
E[X^k]&=\sum_{i=0}^ni^k\frac{\binom mi\binom{N-m}{n-i}}{\binom Nn}\\
&=\sum_{i=1}^ni^k\frac{\binom mi\binom{N-m}{n-i}}{\binom Nn}\\
&=\frac{nm}N\sum_{i=1}^ni^{k-1}\frac{\binom{m-1}{i-1}\binom{N-m}{n-i}}{\binom{N-1}{n-1}}\\
&=\frac{nm}N\sum_{i=0}^{n-1}(i+1)^{k-1}\frac{\binom{m-1}i\binom{N-m}{n-i-1}}{\binom{N-1}{n-1}}\\
\end{aligned}
\]
令 \(Y\) 为参数 \((n-1,N-1,m-1)\) 的负二项随机变量，得到：
\[E[X^k]=\frac{nm}NE[(Y+1)^{k-1}]
\]
令 \(k=1\)
\[E[X]=\frac{nm}N
\]
令 \(k=2\)
\[E[X^2]=\frac{nm}NE[Y+1]=\frac{nm}N(\frac{(n-1)(m-1)}{N-1}+1)
\]
令 \(p=\frac mN\)
\[Var(X)=np(1-p)(1-\frac{n-1}{N-1})
\]
