[学习笔记] 概率 & 期望

一、一些定义

注：以下定义 并非 严谨定义，只是便于理解。

• $P(A)$：事件 $A$ 发生的概率。

• $E(X)$：随机变量 $X$ 的期望值，有公式 $E(X)={\displaystyle \sum _{w}w\times P(X=w)}$。

• 独立事件：两个事件 $A,B$ 发生没有关联，有 $P(A\wedge B)=P(A)\times P(B)$。

• 对于独立的随机变量，有 $E(AB)=E(A)\times E(B)$。

• 期望的线性性：$E\left({\displaystyle \sum _{i=1}^n{X}_i}\right)={\displaystyle \sum _{i=1}^{n}E(X_i)}$。

• 条件概率：$P(A|B)$ 表示在条件 $B$ 下 $A$ 的概率，有 $P(A\wedge B)=P(A)\times P(B|A)$

二、简单概率题

• 随机生成一个 $1\sim n$ 的排列 $p$，对于任意的 $1\le i\le n$，求 ${\displaystyle P_i=P(\underset{j=1}{\overset{i}{max}}{p}_j=p_i)}$。

首先考虑钦定 $p_1,p_2,\dots ,p_i$，有 ${\displaystyle (\genfrac{}{}{0ex}{}{n}{i})}$ 种选法，然后排列前 $i-1$ 个，方案数 $(i-1)!$，最后处理剩下的 $n-i$ 个，总方案数为 ${\displaystyle (\genfrac{}{}{0ex}{}{n}{i})}\times (i-1)!\times (n-i)!$，概率为 $P_i={\displaystyle \frac{{\displaystyle (\genfrac{}{}{0ex}{}{n}{i})}\times (i-1)!\times (n-i)!}{n!}}={\displaystyle \frac{{\displaystyle \frac{n!}{i!\times (n-i)!}}\times (i-1)!\times (n-i)!}{n!}}={\displaystyle \frac{(i-1)!}{i!}}={\displaystyle \frac{1}{i}}$。

另解：因为没有对排列 $p$ 进行特殊限制，那么 $p_1\sim p_i$ 每一个元素成为最大值的概率都是一样的，均为 ${\displaystyle \frac{1}{i}}$。

• 随机生成一个 $1\sim n$ 的排列 $p$，令 $p_{p_i}^{-1}=i$，求 $P(p_v^{-1}=p_u^{-1}+1)$。

我们可以枚举 $p_u^{-1}$，然后 $p_v^{-1}$ 就确定了，剩下的就可以随意排列，整理一下有：

$$P(p_v^{-1}=p_u^{-1}+1)={\displaystyle \frac{{\displaystyle \sum _{i=1}^{n-1}(n-2)!}}{n!}}={\displaystyle \frac{(n-1)\times (n-2)!}{n!}}={\displaystyle \frac{(n-1)!}{n!}}={\displaystyle \frac{1}{n}}$$

• 随机生成一个 $1\sim n$ 的排列 $p$，求 $1\sim m$ 是 $p$ 的一个子序列的概率。

选出这 $m$ 个数的位置：${\displaystyle (\genfrac{}{}{0ex}{}{n}{m})}$ 种方案，剩下的任意排列：$(n-m)!$，整理得：

$$P((1,2,\dots ,m)\text{ is a subsequence of }p)={\displaystyle \frac{{\displaystyle (\genfrac{}{}{0ex}{}{n}{m})}\times (n-m)!}{n!}}={\displaystyle \frac{{\displaystyle \frac{n!}{m!\times (n-m)!}}\times (n-m)!}{n!}}={\displaystyle \frac{1}{m!}}$$

另解：这 $m$ 个数的相对位置的每一种可能所对应的概率都是相等的，即 ${\displaystyle \frac{1}{m!}}$。

• 随机生成一个 $1\sim n$ 的排列 $p$，求 $1\sim m$ 是 $p$ 的一个连续子序列的概率。

枚举这 $m$ 个数中第一个数的位置，有 $n-m+1$ 种，剩下的随便排列，有 $(n-m)!$ 种，整理得：

$$P((1,2,\dots ,m)\text{ is a contiguous subsequence of }p)={\displaystyle \frac{(n-m+1)\times (n-m)!}{n!}}={\displaystyle \frac{(n-m+1)!}{n!}}$$

• 给定一个序列 $A=(a_1,a_2,\dots ,a_n)$ 每次随机删除一个元素，求 $a_i$ 和 $a_j$ 在某一时刻相邻的概率，满足 $1\le i<j\le n$。

容易发现我们只需要关心 $a_i,a_{i+1},\dots ,a_j$ 的删除顺序，$a_i$ 和 $a_j$ 相邻当且仅当对于所有的 $k\in (i,j)$，满足 $a_k$ 被删除的时刻早于 $a_i,a_j$ 被删除的时刻，发现每一个元素被删除的顺序形成了一个排列，所以我们尝试选出这 $j-i+1$ 个元素的删除顺序，共有 ${\displaystyle (\genfrac{}{}{0ex}{}{n}{j-i+1})}$ 种，剩下的元素有 $(n-j+i-1)!$ 种删除的顺序，考虑 $a_i\sim a_j$ 的删除顺序，先要删除 $a_{i+1}\sim a_{j-1}$，有 $(j-i-1)!$ 种，$a_i$ 和 $a_j$ 共有 $2!=2$ 种删除顺序，整理有：

$$P(a_i\text{ and }{a}_j\text{ will be adjacent at a moment})={\displaystyle \frac{{\displaystyle (\genfrac{}{}{0ex}{}{n}{j-i+1})}\times (j-i-1)!\times 2\times (n-j+i-1)!}{n!}}$$

尝试化简式子，考虑换元，设 $K=j-i+1$，则原式为：

$${\displaystyle \frac{{\displaystyle (\genfrac{}{}{0ex}{}{n}{K})}\times (K-2)!\times 2\times (n-K)!}{n!}}={\displaystyle \frac{{\displaystyle \frac{n!}{K!\times (n-K)!}}\times (K-2)!\times 2\times (n-K)!}{n!}}={\displaystyle \frac{(K-2)!\times 2}{K!}}={\displaystyle \frac{2}{K(K-1)}}$$

带入 $K=j-i+1$，有：

$${\displaystyle \frac{2}{K(K-1)}}={\displaystyle \frac{2}{(j-i+1)(j-i)}}$$

所以，${\displaystyle P(a_i\text{ and }{a}_j\text{ will be adjacent at a moment})={\displaystyle \frac{2}{(j-i+1)(j-i)}}}$。

三、期望的线性性

公式：$E\left({\displaystyle \sum _{i=1}^n{X}_i}\right)={\displaystyle \sum _{i=1}^{n}E(X_i)}$。（$E(X+Y)=E(X)+E(Y)$）

其中我们 不要求 $X,Y$ 独立。

四、简单的期望题

• 箱子里有 $n$ 个球分别有权值 $1\sim n$，你要选其中 $m$ 个球，求选出的 $m$ 个球的权值和的期望。

设选出的 $m$ 个球的权值为 $X_1,X_2,\dots ,X_m$，那么：

$$E\left({\displaystyle \sum _{i=1}^m{X}_i}\right)=\sum _{i=1}^{n}E(X_i)$$

显然选出每个球的概率为 ${\displaystyle \frac{1}{n}}$，那么 $E(X_i)={\displaystyle \frac{1}{n}}\times (1+2+\cdots +n)={\displaystyle \frac{n+1}{2}}$。

所以答案就是 $E\left({\displaystyle \sum _{i=1}^m{X}_i}\right)={\displaystyle \frac{m\times (n+1)}{2}}$。

• 随机生成一个 $1\sim n$ 的排列 $p$，求 $E\left({\displaystyle \sum _{i=1}^n[\underset{j=1}{\overset{i}{max}}{p}_j=p_i]}\right)$ 的值。

根据期望的线性性，有：

$$E\left({\displaystyle \sum _{i=1}^n[\underset{j=1}{\overset{i}{max}}{p}_j=p_i]}\right)=\sum _{i=1}^{n}E\left([\underset{j=1}{\overset{i}{max}}{p}_j=p_i]\right)$$

根据刚才的结论（往！上！翻！），${\displaystyle E\left([\underset{j=1}{\overset{i}{max}}{p}_j=p_i]\right)={\displaystyle \frac{1}{i}}}$，所以有：

$$E\left({\displaystyle \sum _{i=1}^n[\underset{j=1}{\overset{i}{max}}{p}_j=p_i]}\right)=\sum _{i=1}^n{\displaystyle \frac{1}{i}}=O(\log n)$$

• 随机生成一个 $1\sim n$ 的排列 $p$，求 ${\displaystyle E(\sum _{i=1}^n[p_i>max(p_{i-1},p_{i+1})])}$，其中 $p_0=p_{n+1}=0$，并且 $n>1$。

根据期望的线性性，有：

$${\displaystyle E(\sum _{i=1}^n[p_i>max(p_{i-1},p_{i+1})])=\sum _{i=1}^{n}E([p_i>max(p_{i-1},p_{i+1})])}$$

如果 $i=1$ 或 $i=n$，那么关系有两种，期望 ${\displaystyle \frac{1}{2}}$。

如果 $1<i<n$，那么 $i-1\sim i+1$ 的最大值为 $i$ 的概率为 ${\displaystyle \frac{1}{3}}$，整理有：

$${\displaystyle E(\sum _{i=1}^n[p_i>max(p_{i-1},p_{i+1})])=2\times {\displaystyle \frac{1}{2}}+(n-2)\times {\displaystyle \frac{1}{3}}={\displaystyle \frac{n+1}{3}}}$$

• 随机生成一个只包含 $0,1$ 的序列 $A=(a_1,a_2,\dots ,a_{n+m})$，满足 ${\displaystyle \sum _{i=1}^{n+m}{a}_i=m}$，求 ${\displaystyle E(\sum _{i=1}^{n+m-1}[a_i=0\wedge a_{i+1}=1])}$，保证 $n+m>0$。

根据期望的线性性，有：

$${\displaystyle E(\sum _{i=1}^{n+m-1}[a_i=0\wedge a_{i+1}=1])=\sum _{i=1}^{n+m-1}[a_i=0\wedge a_{i+1}=1]}$$

那么每一个条件的期望就是满足的概率：

$${\displaystyle \frac{{\displaystyle (\genfrac{}{}{0ex}{}{n+m-2}{n-1})}}{{\displaystyle (\genfrac{}{}{0ex}{}{n+m}{n})}}}={\displaystyle \frac{nm}{(n+m)(n+m-1)}}$$

最后加起来，得：

$${\displaystyle E(\sum _{i=1}^{n+m-1}[a_i=0\wedge a_{i+1}=1])={\displaystyle \frac{nm}{n+m}}}$$

• 有 $n$ 个黑球，$m$ 个白球，每次随机取一个球，求将所有白球取出的期望步数。

发现如果步数为 $k$ 则后 $n+m-k$ 个均为黑球，第 $k$ 个必须为白球，概率为：

$$P_k=\frac{{\displaystyle (\genfrac{}{}{0ex}{}{k-1}{k-m})}}{{\displaystyle (\genfrac{}{}{0ex}{}{n+m}{n})}}$$

那么期望就是 ${\displaystyle \sum _{k=m}^{n+m}k\times P_k}$。

最后化简之后就是 ${\displaystyle \sum _{k=m}^{n+m}(\genfrac{}{}{0ex}{}{k}{m})\times {\displaystyle \frac{n!\times m!\times m}{(n+m)!}}}$。

根据 ${\displaystyle \sum _{k=m}^{n+m}(\genfrac{}{}{0ex}{}{k}{m})=(\genfrac{}{}{0ex}{}{n+m+1}{m+1})}$，算得原式等于 ${\displaystyle \frac{m\times (n+m+1)}{m+1}}={\displaystyle \frac{nm}{m+1}}+m$。

五、随机游走模型

待补充。