[学习笔记] 概率 & 期望

一、一些定义

注：以下定义 并非 严谨定义，只是便于理解。

• \(P(A)\)：事件 \(A\) 发生的概率。

• \(E(X)\)：随机变量 \(X\) 的期望值，有公式 \(E(X) = \displaystyle \sum_{w}w \times P(X = w)\)。

• 独立事件：两个事件 \(A, B\) 发生没有关联，有 \(P(A \wedge B) = P(A) \times P(B)\)。

• 对于独立的随机变量，有 \(E(AB) = E(A) \times E(B)\)。

• 期望的线性性：\(E\left(\displaystyle \sum_{i = 1}^{n}X_i\right) = \displaystyle \sum_{i = 1}^{n}E(X_i)\)。

• 条件概率：\(P(A | B)\) 表示在条件 \(B\) 下 \(A\) 的概率，有 \(P(A \wedge B) = P(A) \times P(B | A)\)

二、简单概率题

• 随机生成一个 \(1 \sim n\) 的排列 \(p\)，对于任意的 \(1 \leq i \leq n\)，求 \(\displaystyle P_i = P\left(\max_{j = 1}^{i}p_j = p_i\right)\)。

首先考虑钦定 \(p_1, p_2, \dots, p_i\)，有 \(\dbinom{n}{i}\) 种选法，然后排列前 \(i - 1\) 个，方案数 \((i - 1)!\)，最后处理剩下的 \(n - i\) 个，总方案数为 \(\dbinom{n}{i} \times (i - 1)! \times (n - i)!\)，概率为 \(P_i = \dfrac{\dbinom{n}{i} \times (i - 1)! \times (n - i)!}{n!} = \dfrac{\dfrac{n!}{i! \times (n - i)!} \times (i - 1)! \times (n - i)!}{n!} = \dfrac{(i - 1)!}{i!} = \dfrac{1}{i}\)。

另解：因为没有对排列 \(p\) 进行特殊限制，那么 \(p_1 \sim p_i\) 每一个元素成为最大值的概率都是一样的，均为 \(\dfrac{1}{i}\)。

• 随机生成一个 \(1 \sim n\) 的排列 \(p\)，令 \(p^{-1}_{p_i} = i\)，求 \(P(p^{-1}_v = p^{-1}_u + 1)\)。

我们可以枚举 \(p^{-1}_u\)，然后 \(p^{-1}_v\) 就确定了，剩下的就可以随意排列，整理一下有：

\[P(p^{-1}_v = p^{-1}_u + 1) = \dfrac{\displaystyle \sum_{i = 1}^{n - 1}(n - 2)!}{n!} = \dfrac{(n - 1) \times (n - 2)!}{n!} = \dfrac{(n - 1)!}{n!} = \dfrac{1}{n} \]

• 随机生成一个 \(1 \sim n\) 的排列 \(p\)，求 \(1 \sim m\) 是 \(p\) 的一个子序列的概率。

选出这 \(m\) 个数的位置：\(\dbinom{n}{m}\) 种方案，剩下的任意排列：\((n - m)!\)，整理得：

\[P((1, 2, \dots, m) \text{ is a subsequence of } p) = \dfrac{\dbinom{n}{m} \times (n - m)!}{n!} = \dfrac{\dfrac{n!}{m! \times (n - m)!} \times (n - m)!}{n!} = \dfrac{1}{m!} \]

另解：这 \(m\) 个数的相对位置的每一种可能所对应的概率都是相等的，即 \(\dfrac{1}{m!}\)。

• 随机生成一个 \(1 \sim n\) 的排列 \(p\)，求 \(1 \sim m\) 是 \(p\) 的一个连续子序列的概率。

枚举这 \(m\) 个数中第一个数的位置，有 \(n - m + 1\) 种，剩下的随便排列，有 \((n - m)!\) 种，整理得：

\[P((1, 2, \dots, m) \text{ is a contiguous subsequence of } p) = \dfrac{(n - m + 1) \times (n - m)!}{n!} = \dfrac{(n - m + 1)!}{n!} \]

• 给定一个序列 \(A = (a_1, a_2, \dots, a_n)\) 每次随机删除一个元素，求 \(a_i\) 和 \(a_j\) 在某一时刻相邻的概率，满足 \(1 \leq i < j \leq n\)。

容易发现我们只需要关心 \(a_i, a_{i + 1}, \dots, a_j\) 的删除顺序，\(a_i\) 和 \(a_j\) 相邻当且仅当对于所有的 \(k \in (i, j)\)，满足 \(a_k\) 被删除的时刻早于 \(a_i, a_j\) 被删除的时刻，发现每一个元素被删除的顺序形成了一个排列，所以我们尝试选出这 \(j - i + 1\) 个元素的删除顺序，共有 \(\dbinom{n}{j - i + 1}\) 种，剩下的元素有 \((n - j + i - 1)!\) 种删除的顺序，考虑 \(a_i \sim a_j\) 的删除顺序，先要删除 \(a_{i + 1} \sim a_{j - 1}\)，有 \((j - i - 1)!\) 种，\(a_i\) 和 \(a_j\) 共有 \(2! = 2\) 种删除顺序，整理有：

\[P(a_i \text{ and } a_j\text{ will be adjacent at a moment}) = \dfrac{\dbinom{n}{j-i+1}\times (j - i - 1)! \times 2 \times (n - j + i - 1)!}{n!} \]

尝试化简式子，考虑换元，设 \(K = j - i + 1\)，则原式为：

\[\dfrac{\dbinom{n}{K} \times (K - 2)! \times 2 \times (n-K)!}{n!} = \dfrac{\dfrac{n!}{K! \times (n - K)!} \times (K - 2)! \times 2 \times (n - K)!}{n!} = \dfrac{(K - 2)! \times 2}{K!} = \dfrac{2}{K(K - 1)} \]

带入 \(K = j - i + 1\)，有：

\[\dfrac{2}{K(K - 1)} = \dfrac{2}{(j - i + 1)(j - i)} \]

所以，\(\displaystyle P(a_i \text{ and } a_j\text{ will be adjacent at a moment}) = \dfrac{2}{(j - i + 1)(j - i)}\)。

三、期望的线性性

公式：\(E\left(\displaystyle \sum_{i = 1}^{n}X_i\right) = \displaystyle \sum_{i = 1}^{n}E(X_i)\)。（\(E(X + Y) = E(X) + E(Y)\)）

其中我们 不要求 \(X, Y\) 独立。

四、简单的期望题

• 箱子里有 \(n\) 个球分别有权值 \(1 \sim n\)，你要选其中 \(m\) 个球，求选出的 \(m\) 个球的权值和的期望。

设选出的 \(m\) 个球的权值为 \(X_1, X_2, \dots, X_m\)，那么：

\[E\left(\displaystyle \sum_{i = 1}^{m}X_i \right) = \sum_{i = 1}^{n}E(X_i) \]

显然选出每个球的概率为 \(\dfrac{1}{n}\)，那么 \(E(X_i) = \dfrac{1}{n} \times (1 + 2 + \dots + n) = \dfrac{n + 1}{2}\)。

所以答案就是 \(E\left(\displaystyle \sum_{i = 1}^{m}X_i \right) = \dfrac{m \times (n + 1)}{2}\)。

• 随机生成一个 \(1 \sim n\) 的排列 \(p\)，求 \(E\left(\displaystyle \sum_{i = 1}^{n}\left[\max_{j = 1}^{i}p_j = p_i\right]\right)\) 的值。

根据期望的线性性，有：

\[E\left(\displaystyle \sum_{i = 1}^{n}\left[\max_{j = 1}^{i}p_j = p_i\right]\right) = \sum_{i = 1}^{n}E\left(\left[\max_{j = 1}^{i}p_j = p_i\right]\right) \]

根据刚才的结论（往！上！翻！），\(\displaystyle E\left(\left[\max_{j = 1}^{i}p_j = p_i\right]\right) = \dfrac{1}{i}\)，所以有：

\[E\left(\displaystyle \sum_{i = 1}^{n}\left[\max_{j = 1}^{i}p_j = p_i\right]\right) = \sum_{i = 1}^{n}\dfrac{1}{i} = O(\log n) \]

• 随机生成一个 \(1 \sim n\) 的排列 \(p\)，求 \(\displaystyle E\left(\sum_{i = 1}^{n}[p_i > \max(p_{i - 1}, p_{i + 1})]\right)\)，其中 \(p_0 = p_{n + 1} = 0\)，并且 \(n > 1\)。

根据期望的线性性，有：

\[\displaystyle E\left(\sum_{i = 1}^{n}[p_i > \max(p_{i - 1}, p_{i + 1})]\right) = \sum_{i = 1}^{n}E([p_i > \max(p_{i - 1}, p_{i + 1})]) \]

如果 \(i = 1\) 或 \(i = n\)，那么关系有两种，期望 \(\dfrac{1}{2}\)。

如果 \(1 < i < n\)，那么 \(i - 1 \sim i + 1\) 的最大值为 \(i\) 的概率为 \(\dfrac{1}{3}\)，整理有：

\[\displaystyle E\left(\sum_{i = 1}^{n}[p_i > \max(p_{i - 1}, p_{i + 1})]\right) = 2 \times \dfrac{1}{2} + (n - 2) \times \dfrac{1}{3} = \dfrac{n + 1}{3} \]

• 随机生成一个只包含 \(0, 1\) 的序列 \(A = (a_1, a_2, \dots, a_{n + m})\)，满足 \(\displaystyle \sum_{i = 1}^{n + m} a_i = m\)，求 \(\displaystyle E\left(\sum_{i = 1}^{n + m - 1}[a_i = 0 \wedge a_{i + 1} = 1]\right)\)，保证 \(n + m > 0\)。

根据期望的线性性，有：

\[\displaystyle E\left(\sum_{i = 1}^{n + m - 1}[a_i = 0 \wedge a_{i + 1} = 1]\right) = \sum_{i = 1}^{n + m - 1}[a_i = 0 \wedge a_{i + 1} = 1] \]

那么每一个条件的期望就是满足的概率：

\[\dfrac{\dbinom{n + m - 2}{n - 1}}{\dbinom{n + m}{n}} = \dfrac{nm}{(n + m)(n + m - 1)} \]

最后加起来，得：

\[\displaystyle E\left(\sum_{i = 1}^{n + m - 1}[a_i = 0 \wedge a_{i + 1} = 1]\right) = \dfrac{nm}{n + m} \]

• 有 \(n\) 个黑球，\(m\) 个白球，每次随机取一个球，求将所有白球取出的期望步数。

发现如果步数为 \(k\) 则后 \(n + m - k\) 个均为黑球，第 \(k\) 个必须为白球，概率为：

\[P_k = \frac{\dbinom{k - 1}{k - m}}{\dbinom{n + m}{n}} \]

那么期望就是 \(\displaystyle \sum_{k = m}^{n + m}k \times P_k\)。

最后化简之后就是 \(\displaystyle \sum_{k = m}^{n + m}\binom{k}{m} \times \dfrac{n! \times m! \times m}{(n + m)!}\)。

根据 \(\displaystyle \sum_{k = m}^{n + m}\binom{k}{m} = \binom{n + m + 1}{m + 1}\)，算得原式等于 \(\dfrac{m \times (n + m + 1)}{m + 1} = \dfrac{nm}{m + 1} + m\)。

五、随机游走模型

待补充。