[算法分析与设计] 3. 并查集分析与反阿克曼函数

Union-Find 问题：给定 $n$ 个元素，最初每个元素在一个集合中，有两种操作，union 表示合并两个集合，find 表示查询某个特定元素所在的集合。

并查集是一种数据结构。其为每个集合寻找一个代表元，代表元可以是任意的，也可以随操作变化，但需要满足任何时刻一个集合的代表元是确定且唯一的。数据结构支持 MakeSet, Find, Union 三种操作，表示新建一个仅包含一个元素的集合、寻找一个集合的代表元、合并两个元素所在的集合。

Up-tree 是并查集最常用的实现方式，其将每个集合的元素维护为一棵有根树，将根作为这个集合的代表元，Union 时通过将一个根连到另一个根上将两棵树合并为一棵，Find 时不断爬父亲找根即可。

设 $n$ 为元素个数，$m$ 为操作次数。

Union 总是 $O(1)$ 的，关键在于 Find。什么都不做是 $O(n)$ 的。有两种优化，按秩合并和路径压缩。按秩合并是守序善良的 $\log$ 数据结构。带按秩合并的路径压缩是难分析的。

需要注意的是 Find 一个点的复杂度为这个点所在集合改变代表元的次数。

有两种常用的秩的定义方法，高度 Height 和重量 Weight。合并时总是将秩小的根连到秩大的根上。如果是高度，则秩增大 $1$ 当且仅当两个集合秩相同，因此可以归纳证明秩为 $k$ 至少需要 $2^k$ 个点（达到下界的是二项树），因此每个点至多更换 $\log$ 次代表元，复杂度为单次严格 $O(\log n)$。重量同理。

路径压缩在每次 Find 时将涉及到的一条链打散，所有点直接挂在根上，这个操作不会额外增加复杂度。

如果按秩合并和路径压缩同时使用，那基于高度的秩将不方便维护。不过我们可以修改其定义，Find 时秩不改变，Union 时只有两者秩相同则新的根的秩增加一，旧的不变，否则小的合并到大的上，两者都不变。我们来分析其复杂度。

随着操作进行，对于每个 $x$，$\mathrm{rank}(x)$ 只增不减。当 $x$ 不为根时，$\mathrm{rank}(x)$ 不再改变。如果 $y$ 是 $x$ 的父亲，$\mathrm{rank}(y) > \mathrm{rank}(x)$。对于 $\mathrm{rank} \geq r$ 的结点任何时候至多 $\frac {\min(n, m)}{2^r}$ 个。

令 $T(m, r)$ 表示 $m$ 个操作，秩 $< r$ 的复杂度，令 $s$ 为秩的一个阈值。考虑路径压缩时 $x$ 被挂在了新父亲 $y$ 上。

• $\mathrm{rank}(x), \mathrm{rank}(y) < s$，则归档到 $T(m_0, s)$ 中。
• $\mathrm{rank}(x), \mathrm{rank}(y) \geq s$，共涉及 $\frac m{2^s}$ 个结点，总复杂度 $T(m_1, r) = O(\frac{m}{2^s}r)$。
• $\mathrm{rank}(x) < s \leq \mathrm{rank}(y)$，再分两种情况
  • $\mathrm{rank}(\mathrm{parent}(x)) < s$，则经过一次操作后 $\mathrm{rank}(\mathrm{parent}(x)) = \mathrm{rank}(y) \geq s$，因此总复杂度 $O(m)$。
  • $\mathrm{rank}(\mathrm{parent}(x)) \geq s$，每次 Find 只会有一个这样的 $x$，因此为每次 Find 增加 $O(1)$。

所以，我们得到

$$T(m, r) \leq T(m, s) + O\left(\frac m{2^s} r + m\right)$$

取 $s = \log r$，则有

$$T(m, r) \leq T(m, \log r) + O(m)$$

因此，只需要递归 $\log^* r$ 层，所以

$$T(m, r) = O(m \log^* r)$$

回到

• $\mathrm{rank}(x), \mathrm{rank}(y) \geq s$，共有 $\frac m{2^s}$ 个结点，总复杂度 $T(m_1, r) = O(\frac{m}{2^s}r)$。

我们将其优化为了 $O(\frac{m}{2^s}\log^* r)$。因此重新写

$$T(m, r) \leq T(m, s) + O\left(\frac m{2^s} \log^*r + m\right)$$

令 $s = \log^{**}r$，即迭代 $\log^*$ 多少次 $r$ 后到一个常数，则可以得到

$$T(m, s) = O(m \log^{**} r)$$

等等等等，所以对任何常数 $k$，

$$T(m, s) = O(m \log^{*^{(k)}} r)$$

但是由于递归是非常数，或称 $\omega(1)$ 轮的，所以不能直接认最终复杂度为 $O(m)$，一个常数经过 $\omega(1)$ 轮递归后可能叠加为 $\omega(1)$。我们需要精确分析常数。

最初

$$T(m, r) \leq m\cdot r$$

$$T(m, r) \leq T(m, s) + \frac m{2^s}r + m$$

令 $s = \log r$，则

$$T(m, r) \leq T(m, \log r) + 2m$$

$$T(m, r) \leq 2m \log^* r$$

$$T(m, r) \leq T(m, s) + 2 \frac m{2^s}\log^* r + m$$

$$T(m, r) \leq 3m \log^{**}r$$

以此类推，最终得到

$$T(m, r) = O(km \log^{*^{(k)}} r)$$

令 $k = \alpha(n)$，$\log^{*^{(k)}} r$ 归为常数，最终复杂度为 $O(m \alpha(n))$。

其中 $\alpha$ 为反阿克曼函数，$\alpha(n) = \min\{k \mid A(k, 1) \geq n\}$，其中 $A$ 为阿克曼函数。阿克曼函数是这样定义的：

$$A(m, n) = \begin{cases} n + 1 && m = 0 \\ A(m - 1, 1) && m > 0, n = 0 \\ A(m - 1, A(m, n - 1)) && m > 0, n > 0\end{cases}$$

$$\begin{aligned} A(0, n) &= n + 1 \\ A(1, n) &= 2 + (n + 3) - 3 \\ A(2, n) &= 2 \times (n + 3) - 3 \\ A(3, n) &= 2^{n + 3} - 3 \\ A(4, n) &= \underbrace{2^{2^{2^{\ldots^2}}}}_{n + 3} - 3 \\ &\vdots \\ \end{aligned}$$

可知其是将上一个值 $A(m, n - 1)$ 作为在第 $m - 1$ 行的递归轮数，因此 $m$ 充当的是递归形式的阶次。

其比任何多项式和指数函数增长得都要快。因此 $\alpha(n)$ 比任何 $\log^{***\ldots **}$ 增长得都要慢。但其不是常数，$\lim_{n \to +\infty}\alpha(n) \to +\infty$。

不难发现 $\log^{*^{(k)}}$ 表示的是经过多少次 $k - 1$ 阶递归能到一个常数，和 $A$ 的定义恰好相对。$\alpha(n) \approx \min\left\{k \mid \log^{*^{(k)}} \leq 3\right\}$。

• Up-tree 实现的并查集复杂度为 $\Omega(m \alpha(n))$。[Tarjan, '75]

• Union-Find 问题的下界为 $\Omega(\alpha(n))$。[Fredman, Saks '89]

接下来介绍另一个 $\alpha$ 在复杂度中出现的问题，区间半群查询。

有 $n$ 个元素 $A_1, A_2, \ldots, A_n \in (G, +)$ 排成一行，每次查询 $i, j$，求 $\sum_{q=i}^j A_q$。半群意味着不能使用前缀和相减（因为没有加法逆元）等手段，只有加法封闭和结合律两条性质。要求使用尽可能少的存储量，使得每次查询时只使用至多 $k$ 次加法。设 $S_k(n)$ 表示最少存储量。

$$S_0(n) = \frac 12n(n-1)$$

对 $S_1(n)$，序列分治得到

$$S_1(n) = n \log n$$

对 $S_3(n)$，递归四毛子，第一层块大小 $B = \log n$，对每个块存前后缀，块间用 $S_1$，块内递归 $S_3$ 得到

$$S_3(n) \leq 2n + S_1\left(\frac n{\log n}\right) + \frac n{\log n} S_3(\log n)$$

其和之前的形式类似。可得

$$S_3(n) = 3n \log^* n$$

假设

$$S_{2k - 1}(n) \leq (2k - 1) n f(n)$$

其中 $f(n)$ 为块大小，满足对 $n$ 不降，则

$$S_{2k + 1}(n) \leq 2n + S_{2k - 1}\left(\frac n{f(n)}\right) + \frac n{f(n)} S_{2k + 1}(f(n)) \leq (2k + 1) n + \frac n{f(n)} S_{2k + 1}(f(n))$$

归纳可得

$$S_{2k+1}(n) = (2k + 1)n f^*(n)$$

因此

$$S_{2k+1} \leq (2k + 1) n \log^{*^{(k)}} n$$

$$S_{2\alpha(n) + 1} = O(n\alpha(n))$$

更进一步地有

• 对于 $O(\alpha(n))$ 次加法，$O(n)$ 空间 [Yao; Chazelle, Rosenberg]。