概率与期望

内容来自2019 wannafly winter camp
不知道有没有时间完全听懂…… https://www.bilibili.com/video/BV1Jt41137DT/

概率与期望

期望的定义

主要用离散型随机变量的期望的定义

离散型随机变量 $X\sim \left(\begin{array}{cccc}{a}_0& a_1& a_2& \cdots \\ p_0& p_1& p_2& \cdots \end{array}\right)$ ，则期望为 $E(X)=\sum _{i=0}^{\mathrm{\infty }}{a}_i{p}_i$

期望的性质

1.线性性E(X+Y)=E(X)+E(Y)

证明：全概率公式+期望定义

2. $E(X)={\sum }_{k=1}^{\mathrm{\infty }}P(X⩾k)$

证明：
$E(X)={\sum }_{k=1}^{\mathrm{\infty }}k\cdot P\{X=k\}={\sum }_{k=1}^{\mathrm{\infty }}P\{X=k\}{\sum }_{i=1}^{k}1={\sum }_{i=1}^{\mathrm{\infty }}1{\sum }_{k⩾i}P\{X=k\}={\sum }_{k=1}^{\mathrm{\infty }}P(X⩾k)$

问题

1）每次随机有放回地取一个[1,n]的数，问期望取几次能使所有数都至少被取出一次。

设随机变量X为：能使所有数都至少被取出一次所需要取的次数次，问题即求 $E(X)$ 。直接不好求，需要分解为其他随机变量的和，然后利用期望的线性性。

设随机变量 $T_i$ 为：当前有 $i$ 个数，第一次取到新的数字需要取的次数。

则 $X={\sum }_{i=0}^{n-1}{T}_i$ 。

$$T_0\sim G(1),T_1\sim G\left(\frac{n-1}{n}\right),T_2\sim G\left(\frac{n-2}{n}\right),\cdots ,T_i\sim G\left(\frac{n-i}{n}\right),\cdots ,T_{n-1}\sim G\left(\frac{1}{n}\right)$$

$$E\left(T_0\right)=1,E\left(T_1\right)=\frac{n}{n-1},E\left(T_2\right)=\frac{n}{n-2},\cdots ,E\left(T_i\right)=\frac{n}{n-i},E\left(T_{n-1}\right)=\frac{n}{1}$$

2）随机取一个长度为n的排列P，问p[i]是p[1:i]中最大的数的概率。

设 $X_i=\{\begin{array}{cc}1,& p_i\text{是}p[1\mathrm{:}i]\text{中最大的数}\\ 0,& \text{其他}\end{array}$ ，则 ${\sum }_{i=1}^n{X}_i=1$

设p[k]是最大的数，则 $E\left({\sum }_{i=1}^n{X}_i\right)=1=0+\cdots +kE\left(X_k\right)+\cdots +0$ （期望的线性性）

3）NOIP2016 换教室

一天共有n节课，第i节课默认在第c[i] 间教室上。在一天刚开始的时候可以一次性提出最多m门课的申请，将第i节课改为到第d[i] 间教室上（c[i]，d[i]是固定的），每一个申请通过的概率是k[i]。第x间教室到第y间教室的距离是dis[x][y]。要求上课之间移动的距离的期望最小，求最小的距离的期望。

n,m<=2000

 

期望的线性性，背包即可

随机游走

问题

1）一条长度为n的链，从一端走到另一端的期望时间。

设 $X=\sum _{i=1}^{n-1}{X}_i$

$X_i$ 是第一次从i走到第一次走到i+1需要走的时间。

$${\mathit{EX}}_1=1$$

$X_i\sim \left(\begin{array}{cc}1& 1+X_{i-1}+X_i\\ 1/2& 1/2\end{array}\right)$ （1：直接从i走到i+1，2：走回去，再走回来，再走到i+1）

$${\mathit{EX}}_i=\frac{1}{2}+\frac{1}{2}\left(1+{\mathit{EX}}_{i-1}+{\mathit{EX}}_i\right)$$

2）一个n个点的完全图，求从S走到T的期望时间。

$$p=\{\begin{array}{cc}\frac{1}{n-1}& \text{走到}T\\ \frac{n-2}{n-1}& \text{走到另外的点}\end{array}$$

$$X\sim G(p)$$

$$\mathit{EX}=1/p=n-1$$

3）硬币游戏，给n个硬币，第i个硬币的价值是w[i]，每次随机取走一个硬币，获得的收益是左右两个硬币的价值的乘积（最左或最右边的收益是0），求期望总价值。 $1⩽n⩽200$ ， $1⩽w[i]⩽{10}^9$

获得收益是指两个硬币碰在一起，令随机变量 $X_{i,j}=\{\begin{array}{cc}1& \text{碰在一起}\\ 0& \text{没碰}\end{array}$ ， $E(\sum _{i<j}{X}_{i,j}w[i]w[j])=\sum _{i<j}E(X_{i,j})w[i]w[j]$ 。

$n⩽200$ ：枚举i,j，计算概率，然后用期望的线性性加起来。

$n⩽{10}^5$ ： $E(X_{i,j})=P\left\{X_{i,j}=1\right\}=\frac{2}{(j-i+1)(j-i)}$

$$E(\sum _{i<j}{X}_{i,j}w[i]w[j])=\sum _{l=1}^{n-1}\sum _{i=2}^{n-1}\frac{2}{(l+1)l}w[i]w[i+l]=\sum _{l=1}^{n-1}\frac{2}{(l+1)l}\sum _{i=2}^{n-1}w[i]w[i+l]$$

怎么快速算出 $\sum _{i=2}^{n-1}w[i]w[i+l]$ ？（不知道，以后再看）

期望线性性在同分布的随机变量中的一个应用（等价性）

若 $X_1,X_2,\cdots ,X_n$ 同分布（不需要独立）， $E(X_i)$ 存在，若 $E(\sum X_i)=1$ ，则 $E(X_i)=1/n$

问题

1）随机生成一个1..n的排列p，求p[i]是p[1..i]中的最大数的概率。

设随机变量 $X_k=\{\begin{array}{cc}1,& \text{是1..i中的最大数}\\ 0,& \text{不是}\end{array}$ ， $E(X_1+X_2+\cdots +X_i)=1$

$$E(X_i)=P\left\{X_i=1\right\}=1/i$$

2）随机生成一个1..n的排列p，求p[i]是p[1..n]中的前k大的数的概率。

设随机变量 $X_i=\{\begin{array}{cc}1,& \text{p[i]是前k大的数}\\ 0,& \text{不是}\end{array}$ ， $E(X_1+X_2+\cdots +X_n)=k$

$$E(X_i)=P\left\{X_i=1\right\}=1/k$$

3）给一棵n个结点的有根树，一开始每一个点都是白色，每次等概率随机选择一个白点，将整个子树染黑，问期望几次能够把整个子树染黑（ $n⩽{10}^5$ ）

设随机变量 $X_i=\{\begin{array}{cc}1,& \text{第i个点先被选中}\\ 0,& \text{第i个点的祖先先被选中}\end{array}$

$P\left\{X_i=1|\text{i和n个结点没被染黑}\right\}=\frac{\text{i比祖先先被选中的排列数量}}{\text{所有的排列数量}}=\frac{C_n^d(n-d)!(d-1)!}{n!}=\frac{1}{d}$ ，根据全概率公式 $P\left\{X_i\right\}=\frac{1}{d}\sum P\left\{\text{i和n个结点没被染黑}\right\}=\frac{1}{d}$ ，d是第i个结点的深度, $E(X_i)=\frac{1}{d}$

求和即可

4）有n堆石头，每堆有a[i]个石头，每个石头被选中的概率相等，现在等概率随机选一个石头，然后把选中的石头所属的那一堆石头全扔了，直到第一堆石头被扔，问期望扔几次。（ $n⩽{10}^5$ ）

总的期望 $\mathit{EX}=1+\sum _{i=2}^n{\mathit{EX}}_i$

设随机变量 $X_i=\{\begin{array}{cc}1,& \text{第i堆在第一堆之前扔掉}\\ 0,& \text{其他}\end{array}$

这个看起来很难计算 $P\{X_i=1\}$ ，先从最简单的情况开始（我不会严谨的证明，下面的过程仅供参考）

我们用事件 $S=(k_1,k_2,\cdots ,k_n)$ 表示除了第一堆和第i堆外还有n堆石头，每一堆分别有 $k_1,k_2,\cdots ,k_n$ 个石头。

那么就来计算 $P\left\{X_i=1|S\right\}$

可以尝试计算一下一些简单的情况

$$P\left\{X_i=1|()\right\}=\frac{a_i}{a_1+a_i}$$

$$P\left\{X_i=1|(k_1)\right\}=\frac{a_i}{a_1+a_i+k_1}+\frac{k_1}{a_1+a_i+k_1}\cdot P\left\{X_i=1|()\right\}=\frac{a_i}{a_1+a_i+k_1}+\frac{k_1}{a_1+a_i+k_1}\cdot \frac{a_i}{a_1+a_i}$$

$$=\frac{a_i}{a_1+a_i+k_1}+\frac{a_i}{a_1+a_i+k_1}\cdot \frac{k_1}{a_1+a_i}=\frac{a_1+a_i+k_1}{a_1+a_i+k_1}\cdot \frac{a_i}{a_1+a_i}=\frac{a_i}{a_1+a_i}$$

然后用数学归纳法，假设对于所有n-1个元素的 $S_{n-1}$ ， $P\left\{X_i=1|S_{n-1}\right\}=\frac{a_i}{a_1+a_i}$

那么可以证明 $P\left\{X_i=1|S_n\right\}=\frac{a_i}{a_1+a_i}$ （重复上面的过程，然后合并同类项）

根据全概率公式， $P\left\{X_i=1\right\}=\frac{a_i}{a_1+a_i}$

那么EX就很好计算了。

5）对于一个1..n的等概率随机生成的排列p，定义它的价值为：所有满足p[i]>max(p[i-1],p[i+1])的i的和，求价值的期望。

$X=\sum X_i\cdot i$ ， $X_i=\{\begin{array}{cc}1,& p[i]>\max (p[i-1],p[i+1])\\ 0,& \text{其他}\end{array}$

$\mathit{EX}=\sum i\cdot E(X_i)$ ， $E(X_i)=\{\begin{array}{cc}1/3,& 1<i<n\\ 0,& \text{其他}\end{array}$ ，直接加就行了

6）随机生成一个长度为 $n$ 的01串，每个位置取0和取1的概率相等，不同位置取的数字相互独立。定义01串的价值为：所有极长全1连续子串的长度的平方和，求价值的期望。

需要用一个很复杂的构造，长度为 $n$ 的全1连续子串中有 $C_n^2=\frac{n(n-1)}{2}$ 个长度大于等于2的全1连续子串，设随机变量 $X_{i,j}=\{\begin{array}{cc}1,& S[i\mathrm{..}j]\equiv 1\\ 0,& \text{其他}\end{array}$ ， $X=2\sum _{i<j}{X}_{i,j}+\sum _{i=1}^n{X}_{i,i}$ ，其中 $X$ 就是需要求的价值。

$E\left(X_{i,i}\right)=1/2$ ， $E\left(X_{i,j}\right)={(1/2)}^{j-i+1}$

7）等概率随机生成一个排列 $p[1..n]$ ，定义 $f(p)$ 为有多少个 $i$ 满足 $p[i]$ 是 $p[1..i]$ 的最大值，求 $f(p)$ 、 ${[f(p)]}^2$ 的期望。

$$X_i=\{\begin{array}{cc}1,& p[i]=\max (p[1],p[2],\cdots ,p[i])\\ 0,& \text{其他}\end{array}$$

期望的线性性： $E[f(p)]=E\left(\sum _{i=1}^n{X}_i\right)=\sum _{i=1}^n{\mathit{EX}}_i=\sum _{i=1}^n\frac{1}{i}$

$$E{[f(p)]}^2=E\left[{\left(\sum _{i=1}^n{X}_i\right)}^2\right]=E\left(\sum _{i=1}^n\sum _{j=1}^n{X}_i{X}_j\right)=2E\left(\sum _{i<j}^{}{X}_i{X}_j\right)+E\left(\sum _{i=1}^n{X}_i^2\right)$$

$$=2E\left(\sum _{i<j}^{}{X}_i{X}_j\right)+E\left(\sum _{i=1}^n{X}_i\right)=2E\left(\sum _{i<j}^{}{X}_i{X}_j\right)+E[f(p)]$$

可以证明 $X_i$ 之间两两独立

$$P\left\{X_i=1,X_j=1\right\}=\frac{C_n^j{C}_{j-1}^i(i-1)!(j-i-1)!(n-j)!}{n!}=\frac{1}{\mathit{ij}}=P\left\{X_i=1\right\}P\left\{X_j=1\right\}$$

利用 $P(\mathit{AB})=P(A)-P(A\overline{B})$ 可以证明 $X_i$ 之间两两独立，因此

$$E(X_i{X}_j)={\mathit{EX}}_i{\mathit{EX}}_j$$

字符串拼接