概率生成函数（PGF）简记

基本搬运自《浅谈生成函数在掷骰子问题上的应用》。

对于定义在非负整数上的离散随机变量 $X$，级数 $F(z) = \sum\limits_{i\ge 0} \operatorname{Pr}(X=i) z^i$ 记为 $X$ 的概率生成函数（PGF），本质上是有特殊性质的普通型生成函数。概率生成函数在一方面提供了一种刻画概率相关模型的工具，另一方面比较形式化地总结了一类概率问题的一般性思路。

一些性质

$F(1) = \sum\limits_{i\ge 0} \operatorname{Pr}(X=i) = 1$

显然。

$F^{\prime}(1) = \sum\limits_{i\ge 0} i\operatorname{Pr}(X=i) = E(X)$

显然。类似的可以得出 $F^{(k)}(1) = E(x^{\underline{k}})$。

$F^{\prime\prime}(1) + F^{\prime}(1) - (F^{\prime}(1))^2 = \bigg(\sum\limits_{i\ge 0}i^2\operatorname{Pr}(X=i)\bigg) - \bigg(\sum\limits_{i\ge 0} i\operatorname{Pr}(X=i)\bigg)^2 = \sigma^2(X)$

其中 $\sigma^2(X)$ 表示 $X$ 的方差，定义为 $\sigma^2(X) = E\big((x-E(x))^2\big)=E(x^2)-E^2(x)$。这一条不常用到。

这一类性质基本在期望问题时用到，核心思路是利用题目性质列出 PGF 或其导数的方程，代入 $z=1$ 解出得到答案。

---

论文涉及了许多例题，但本质基本相同，只要理解了方法也不难独立推导出。在这里记录一些比较有代表性的题目。

[CTSC2006]歌唱王国

给定一个长度为 $L$ 的序列 $A$。然后每次掷一个标有 $1$ 到 $m$ 的公平骰子并将其上的数字加入到初始为空的序列 $B$ 的末尾，如果序列 $B$ 中已经出现了给定序列 $A$ ，即 $A$ 是 $B$ 的子串，则停止，求序列 $B$ 的期望长度。

记 $a_i$ 表示 $[1,i]$ 是 $A$ 的 border。记 $f_i,g_i$ 表示 $B$ 长度为 $i$ 时，过程结束/未结束的方案数，其 PGF 分别为 $F(z),G(z)$。考虑随机加入一个字符，和钦定加入序列 $A$ 之后的情况：

$$\begin{align} F(z) + G(z) &= zG(z)+1 \\ G(z)\bigg(\dfrac{z}{m}\bigg)^L &= \sum\limits_{i=1}^{L}a_iF(z)\bigg(\dfrac{z}{m}\bigg)^{L-i} \end{align}$$

其中第二个等式是由于我们可以从 border 处开始匹配。

将等式 $(1)$ 求导并代入 $z=1$，得到

$$\begin{align} F^{\prime}(z) + G^{\prime}(z) &= zG^{\prime}(z) + G(z) \\ F^{\prime}(1) &= G(1) \end{align}$$

将 $z=1$ 代入等式 $(2)$ 中可得

$$\begin{align} G(1)\bigg(\dfrac{1}{m}\bigg)^L &= \sum\limits_{i=1}^{L}a_iF(1)\bigg(\dfrac{1}{m}\bigg)^{L-i} \\ G(1) &= \sum\limits_{i=1}^La_im^i \end{align}$$

其中用到了 $F(1)=1$。至此我们已经可以高效且简洁的计算答案了。

[SDOI2017]硬币游戏]

给定 $n$ 个长度分别为 $L_i$ 的序列 $A_i$，保证每个序列互不相同。再给出一个标有 $1$ 到 $m$ 的骰子，其中抛出 $i$ 的概率为 $P_i$。然后每次抛一次骰子将骰子上的数字加入到初始为空的序列 $B$ 末尾，如果给定的 $n$ 个序列的其中一个是 $B$ 的子串，则停止，这个序列获胜。求每个序列获胜的概率，并求结束时 $B$ 长度的期望。

较原题有所改动，不影响解题。

上一题的拓展。类似上一题的思路，记 PGF $F_i(z),G(z)$ 分别表示第 $i$ 个串长度为 $i$ 时获胜的 PGF、长度为 $i$ 时未结束的 PGF，$b_{i,j,k}$ 表示第 $j$ 个串的 $[1,k]$ 和第 $i$ 个串的 $[l_i-k+1,l_i]$ 相同。考虑随机加入一个字符，和加入一个目标串：

$$\begin{align} G(z)+\sum\limits_{i=1}^n F_i(z) &= zG(z)+1 \\ \forall i \in [1,n],\ G(z)\bigg(\dfrac{z}{m}\bigg)^{l_i} &= \sum\limits_{j=1}^{n}\sum\limits_{k=1}^{l_j}a_{i,j,k}F_j(z)\bigg(\dfrac{z}{m}\bigg)^{L-k} \end{align}$$

我们的目标是求每个 $F_i(1)$。照例求导并代入 $z=1$：

$$\begin{align} \sum\limits_{i=1}^n{F_i}^{\prime}(1) &= G(1) \\ \forall i \in [1,n],\ G(1)\bigg(\dfrac{1}{m}\bigg)^{l_i} &= \sum\limits_{j=1}^{n}\sum\limits_{k=1}^{l_j}a_{i,j,k}F_j(1)\bigg(\dfrac{1}{m}\bigg)^{l_j-k} \end{align}$$

这样我们得到了关于 $F_i(1)$ 和 $G(1)$ 一共 $n+1$ 个未知数的 $n$ 个方程。发现 $\sum\limits_{i=1}^nF_i(x)$ 即为随机序列长度的 PGF，于是得到最后一个方程

$$\sum\limits_{i=1}^nF_i(x) = 1$$

高斯消元即可。