1.3 纠错码的界

本节给出纠错码基本参数之间的一些相互制约的不等式关系.

定理 1 (汉明界) 如果存在 $p$ 元纠错码, 参数为 $(n, K, d)$ , 则

p^{n} ⩾ K \sum_{i = 0}^{[\frac{d - 1}{2}]} (p - 1)^{i} (\binom{n}{i}),

证明:
在向量空间 $F_{p}^{n}$ 中, 对于正整数 $r$ 和向量 $v \in F_{p}^{n}$ , 考虑与 $v$ 的汉明距离小于或等于 $r$ 的所有向量组成的集合 $S (v; r)$ , 叫做以 $v$ 为中心, 以 $r$ 为半径的闭球. 也就是说,

S (v; r) = {a \in F_{p}^{n} ∣ d (a, v) ⩽ r} .

由于整个向量空间 $F_{p}^{n}$ 的向量总数 $p^{n}$ 是有限的, 所以球 $S (v; r)$ 中的向量个数 $N (r)$ 也是有限的. 来计算这个数. 设 $v = (v_{1}, \dots, v_{n}), v_{i} \in$ $F_{p}$ . 如果 $d (v, a) = i$ , 则 $a$ 和 $v$ 有 $i$ 个相异位. $a$ 在这 $i$ 个相异位上取值与 $v$ 不同, 这表明在每个相异位上 $a$ 的分量取值均有 $p - 1$ 个可能,从而在 $i$ 个相异位上 $a$ 的取值共 $(p - 1)^{i}$ 个可能性.在另外 $n - i$ 个位上, $a$ 和 $v$ 的取值相同, 即 $a$ 在这 $n - i$ 位上取值由 $v$ 所完全决定. 于是对于每 $i$ 个固定的位置, 均有 $(p - 1)^{i}$ 个 $a$ , 使得 $a$ 和 $v$ 的相异位恰好是这 $i$ 位. 但是 $i$ 个相异位的取法共有 $(\binom{n}{i})$ 种, 所以和 $v$ 的汉明距离等于 $i$ 的向量个数为 $(p - 1)^{i} (\binom{n}{i})$ . 于是球 $S (v; r)$ 中向量个数为

N (r) = \sum_{i = 0}^{r} (p - 1)^{i} (\binom{n}{i}) .

由这个公式看出, 球中元素个数与半径 $r$ 有关,但是和球心 $v$ 无关.
现在设存在参数为 $(n, K, d)$ 的 $p$ 元码 $C$ .令 $r = [\frac{d - 1}{2}]$ , 考虑以 $C$ 中所有码字 $c_{1}, c_{2}, \dots$ , $c_{K}$ 为中心, 半径为 $r$ 的 $K$ 个球 $S_{i} = S (c_{i}; r) (1 ⩽$ $i ⩽ K)$ . 这 $K$ 个球两两不相交, 因为若有向量 $a$ 同时属于 $S_{i}$ 和 $S_{j} (i \neq j)$ , 则 $d (a, c_{i}) ⩽ r$ , $d (a, c_{j}) ⩽ r$ . 于是由三角形不等式:

\begin{aligned} d (c_{i}, c_{j}) & ⩽ d (c_{i}, a) + d (a, c_{j}) \\ ⩽ 2 r = 2 [\frac{d - 1}{2}] ⩽ d - 1 . \end{aligned}

另一方面, 由于 $c_{i}$ 和 $c_{j}$ 是 $C$ 中不同的码字, 应当 $d (c_{i}, c_{j}) ⩾ d$ . 这就导致矛盾. 这就表明上述 $K$ 个球两两不相交, 所以在整个空间 $F_{p}^{n}$ 中可以填进这 $K$ 个球, 并且彼此不相重叠. 特别地, 整个空间中的向量个数 $p^{n}$ 要大于或等于这 $K$ 个球的向量总和 $K \cdot N (r) = K \cdot \sum_{i = 0}^{r} (p - 1)^{i} (\binom{n}{i})$ , 其中, $r = [\frac{d - 1}{2}]$ . 这就证明了定理 1.3.1. 证毕.

注记由定理 1 的证明可知, 汉明界中的不等式成为等式, 当且仅当证明中那 $K$ 个球正好不重叠地把整个空间填满！如果纠错码的参数使汉明界的等式成立,称该码是完全码 (perfect code). 这是一类好码. 因为对于这种完全码, 码字个数 $K$ 已达到最好, 不存在参数 $(n, K + 1, d)$ 的码 ( $K$ 个球已把空间填满,不能再放进一个球).

在通常欧氏平面 $R^{2}$ 或欧氏空间 $R^{n} (n ⩾ 3)$ 中,不可能放入一些球 ( $R^{2}$ 中则是圆 ), 不相重叠并且填满整个空间，因为球之间一定有空隙.但是对于有限域 $F_{p}$ 上的向量空间 $F_{p}^{n}$ , 却可以做到这一点,即完全码是存在的. 考虑 1.2 节中的例 1.2.6, 它是参数 $(n, K, d) = (7, 16, 3)$ 的二元码 $(p = 2)$ . 由于 $2^{n} = 2^{7}$ , 而

\begin{aligned} K \cdot \sum_{i = 0}^{[\frac{d - 1}{2}]} (p - i)^{i} (\binom{n}{i}) \\ = & 2^{4} \cdot \sum_{i = 0}^{1} (\binom{7}{i}) = 2^{4} (1 + 7) = 2^{7} = 2^{n}, \end{aligned}

由此可知例 1.2.6 中的码是完全码. 换句话说,以该码的 16 个码字为球心,以 1 为半径的 16 个球不重叠地填满整个空间 $F_{2}^{7}!$ 在第 2 章还要构造出更多的完全码.

现在给出纠错码另一个表达式更简单的定理 Singleton 界.
定理 2(Singleton 界) 如果存在参数为 $(n, K, d)$ 的 $p$ 元纠错码, 并且 $1 ⩽ d ⩽ n$ ,则 $K ⩽ p^{n - d + 1}$ (即 $k ⩽ n - d + 1$ ).
证明：类似习题 1.2.7 的证明想法。反证，假设 $K > p^{n - d + 1}$ ,则观测这组码字的前 $n - d + 1$ 个位置，则由鸽笼原理，至少有两个码字 $c_{1}$ 和 $c_{2}$ ,它们的前 $n - d + 1$ 个位置是相同的。于是 $d (c_{1}, c_{2}) \leq d - 1$ ,与这组码的最小距离为 $d$ 矛盾。

注记若 Singleton 界中等式成立, 即若 $C$ 是参数 $[n, k, d]$ 的纠错码, 其中 $n = k + d - 1$ , 则 $C$ 叫做 “极大距离可分”码, 简记为 MDS 码 (maximum distance separable code). 这个名称来源于: 这种码相当于一种组合设计, 叫做“极大距离可分" 的.

现在可以给出 MDS 码的一个平凡的例子.考虑码

C = {(a, a, \dots, a) \in F_{p}^{n} ∣ 0 ⩽ a ⩽ p - 1},

它的参数为 $[n, k, d] = [n, 1, n]$ , 这是 MDS 码.进一步的 MDS 码例子参见第 2 章中的多项式码.

MDS 码也是一类好码, 因为若 $C$ 是 MDS 码, 即参数为 $[n, k, d], n = k + d - 1$ , 则 3 个参数都不能再好. 因为由定理 2 可知不存在参数为 $[n - 1, k, d], [n, k + 1, d]$ 或者 $[n, k, d + 1]$ 的纠错码.

纠错码还有其他界. 现在再介绍一个界,它只适用于 2 元码的情形.
定理 3(二元码的 Plotkin 界) 如果存在参数为 $(n, K, d)$ 的二元码, 并且 $2 d > n$ , 则

K ⩽ {\begin{cases} 2 [\frac{d}{2 d - n}], & K 为偶数, \\ 2 [\frac{d}{2 d - n}] - 1, & K 为奇数. \end{cases}

证明:设 $C = {c_{1}, \dots, c_{K}}$ 是参数为 $(n, K$ , $d)$ 的二元码, $2 d > n$ , 它的 $K$ 个码字 $c_{i} (1 ⩽ i ⩽$ $K)$ 都是长为 $n$ 的二元向量: $c_{i} = (c_{i 1}, c_{i 2}, \dots, c_{i n}) (c_{i j} \in F_{2} = {0, 1})$ . 考虑元素属于 $F_{2}$ 的如下 $(\binom{K}{2})$ 行 $n$ 列矩阵:

A = [\begin{matrix} c_{1} + c_{2} \\ c_{1} + c_{3} \\ ⋮ \\ c_{K - 1} + c_{K} \end{matrix}],

其中, $(\binom{K}{2})$ 行分别是不同码字之差 $c_{i} - c_{j} (= c_{i} +$ $c_{j}) (1 ⩽ i < j ⩽ K)$ . 用两种不同方式来计算矩阵 $A$ 中 1 的个数 $N$ . 由于 $w (c_{i} + c_{j}) = d (c_{i}, c_{j})$ $⩾ d$ , 可知 $A$ 中每行都至少有 $d$ 个 1 , 所以 $N ⩾$ $d (\binom{K}{2})$ . 另一方面, 对于每个 $l (1 ⩽ l ⩽ n)$ , 设码字 $c_{1}, \dots, c_{K}$ 的第 $l$ 位共有 $N_{l}$ 个为 1 , 其余 $K -$ $N_{l}$ 个为 0 , 则 $A$ 中 $(\binom{K}{2})$ 个行 $c_{i} + c_{j} (1 ⩽ i < j ⩽$ $K)$ 的第 $l$ 位 (即 $A$ 的第 $l$ 列) 共有 $N_{l} (K - N_{l})$ 个为 1 （即 $N_{l}$ 个 1 与 $K - N_{l}$ 个 0 逐个相加所给出的 1）. 于是 $N = \sum_{l = 1}^{n} N_{l} (K - N_{l})$ , 从而

\begin{matrix} (1) & \sum_{l = 1}^{n} N_{i} (K - N_{i}) = N ⩾ d (\binom{K}{2}) . \end{matrix}

如果 $K$ 是偶数,由于 $N_{i}$ 与 $K - N_{i}$ 之和为 $K$ ,熟知 $N_{i} = \frac{K}{2}$ 时 $N_{i} (K - N_{i})$ 最大. 于是式 (1)给出

d \frac{K (K - 1)}{2} ⩽ \sum_{l = 1}^{n} {(\frac{K}{2})}^{2} = \frac{n K^{2}}{4},

即 $2 d (K - 1) ⩽ n K$ . 再由假设 $2 d > n$ 可知 $K ⩽$ $\frac{2 d}{2 d - n}$ . 由于 $K$ 是偶数, 所以 $\frac{K}{2} ⩽ [\frac{d}{2 d - n}]$ , 即

K ⩽ 2 [\frac{d}{2 d - n}]

注意 $[n d] \geq n [d]$ ,所以这一段处理使得不等式更紧。

如果 $K$ 是奇数,则当 $N_{i}$ 和 $K - N_{i}$ 分别是整数 $\frac{K - 1}{2}$ 和 $\frac{K + 1}{2}$ 时乘积最大. 这时式(1)给出

\begin{aligned} d \frac{K (K - 1)}{2} & ⩽ \sum_{l = 1}^{n} (\frac{K - 1}{2}) (\frac{K + 1}{2}) \\ = \frac{1}{4} n (K - 1) (K + 1) . \end{aligned}

化简后得到 $\frac{1}{2} (K + 1) ⩽ \frac{d}{2 d - n}$ . 由于左边是整数, 所以 $\frac{K + 1}{2} ⩽ [\frac{d}{2 d - n}]$ , 即 $K ⩽ 2 [\frac{d}{2 d - n}] - 1$ .证毕.

达到 Ploktin 界的二元码也是一类好码.

例 4 码长为 9 并且最小距离为 5 的二元码, 最多能有多少码字?

解设 $C$ 是参数 $(n, K, d) = (9, K, 5)$ 的二元码. 如果直接用定理 3 中的 Plotkin 界,给出 $K ⩽ 2 [\frac{d}{2 d - n}] = 2 [\frac{5}{10 - 9}] = 10$ . 但是若由 $C$ 构造一个新的二元码

\begin{matrix} C^{'} = {(c_{1}, \dots, c_{10}) \in F_{2}^{10} ∣ (c_{1}, \dots, c_{9}) \in C, c_{10} = c_{1} + c_{2} + \dots + c_{9}}, \end{matrix}

即将 $C$ 中每个码字后面加上 1 位 $c_{10}$ , 使得 1 的个数为偶数, 不难看出码 $C^{'}$ 的参数为 $(n, K, d)$ $= (10, K, 6)$ .

由此我们可以知道，最小距离为奇数的码都可以像这样改造成一个码长+1，码字个数不变，最小距离+1的码

将定理 3 用于码 $C^{'}$ , 可得到 $K$ 的更好上界 $K ⩽ 2 [\frac{6}{12 - 10}] = 6$ . 事实上, 达到 Plotkin 界的二元码 $(n, K, d) = (10, 6, 6)$ 和 $(9, 6, 5)$ 是存在的 (习题). 它们都是好的二元码, 因为码字个数不能再增加了.

例 5 (阿达玛码) 参数为 $(n, K, d) =$ $(4 m, 4 m, 2 m)$ 的二元码叫做阿达玛码（其中 $m$ 是正整数）. 这个名称的来源是由于它们可由一种叫做阿达玛方阵的组合结构得到, 法国数学家阿达玛 (Hadamard) 最早研究这种方阵.一个 $4 m$ 行 $4 m$ 列的方阵 $H$ 叫做阿达玛方阵, 是指方阵中元素均是实数 1 或者 -1 ,并且

H^{T} H = 4 m I_{4 m} .

这里 $H^{T}$ 表示方阵 $H$ 的转置, 而 $I_{4 m}$ 表示 $4 m$ 阶单位方阵 (即主对角线元素均为 1 , 其他元素为 $0)$ .例如,

H_{1} = [\begin{array}{cccc} 1 & 1 & 1 & 1 \\ 1 & - 1 & 1 & - 1 \\ 1 & 1 & - 1 & - 1 \\ 1 & - 1 & - 1 & 1 \end{array}]

是 4 阶阿达玛阵, 容易验证 $H_{1}^{T} H_{1} = 4 I_{4}$ （验证其为对称阵且不同行内积为0）. 一般地, 递推地构造

\begin{matrix} H_{2} = [\begin{array}{cc} H_{1} & H_{1} \\ H_{1} & - H_{1} \end{array}], \\ H_{m + 1} = [\begin{array}{cc} H_{m} & H_{m} \\ H_{m} & - H_{m} \end{array}], m ⩾ 2, \end{matrix}

则通过这种办法我们给出了一系列是 $2^{m} (m \geq 2)$ 阶的阿达玛阵.利用数论知识和细致的组合方法,目前对于 $10^{4}$ 以内的正整数 $m$ 都构造出了 $4 m$ 阶阿达玛阵. 组合学中的一个著名的猜想是:对每个正整数 $m, 4 m$ 阶阿达玛阵均存在.这个猜想至今未解决.
现在讲阿达玛阵和二元纠错码的关系. 设

H = (a_{i j}), 1 ⩽ i ⩽ n, a_{i j} \in {\pm 1}

是一个 $n = 4 m$ 阶的阿达玛阵. 由定义 $H^{T} H =$ $n I_{n}$ , 从而由矩阵乘法给出:

\sum_{i = 1}^{n} a_{j i} a_{k i} = {\begin{cases} n, & j = k, \\ 0, & 否则. \end{cases}

当 $j \neq k$ 时, 上式给出

\sum_{i = 0}^{n} a_{j i} a_{k i} = 0, 1 ⩽ j \neq k ⩽ n .

若考虑方阵 $H$ 中第 $j$ 行和第 $k$ 行给出的两个向量 $(a_{j 1}, a_{j 2}, \dots, a_{j n})$ 和 $(a_{k 1}, a_{k 2}, \dots, a_{k n})$ , 可知这两个向量的相同位数(相乘得到1)和相异位数(相乘得到-1)都是 $2 m = n / 2$ (各占一半). 如果再把 $H$ 中 $n$ 个行向量的 1 和 -1 分别改成二元域 $F_{2}$ 中的 0 和 1 , 便得到长为 $n$ 的 $n$ 个二元向量,这 $n$ 个向量当中任意两个不同向量的相异位数仍是 $n / 2$ , 即任意两个不同向量的汉明距离都是 $n / 2$ . 这 $n$ 个向量组成的二元码 $C$ , 参数为 $(n, K, d) = (4 m, 4 m, 2 m)$ . 所以,由一个 $4 m$ 阶的阿达玛阵, 均可以构造出参数为 $(n, K, d) =$ $(4 m, 4 m, 2 m)$ 的二元码 $C$ , 并且任意两个不同码字的汉明距离均是 $2 m$ .
例如, 由 $4$ 阶阿达玛阵

H = [\begin{array}{cccc} 1 & 1 & 1 & 1 \\ 1 & - 1 & 1 & - 1 \\ 1 & 1 & - 1 & - 1 \\ 1 & - 1 & - 1 & 1 \end{array}],

将 1 和 -1 分别改成 0 和 $1, H$ 的 4 行分别成为 (0000), (0101), (0011), (0110), 它们组成参数 $(n, K, d) = (4, 4, 2)$ 的二元码 $C$ ,并且任意两个不同码字的汉明距离都是 2 .
再作进一步讨论. 设 $C$ 是由 $n = 4 m$ 阶阿达玛阵构造出的二元码, 参数为 $(n, K, d) = (4 m$ , $4 m, 2 m)$ . 取 $C$ 中的一个码字 $c = (c_{1}, \dots, c_{n}) \in$ $F_{2}^{n}$ , 把它改成 $c^{'} = c + (1, 1, \dots, 1) = (c_{1} + 1, c_{2} + 1, \dots, c_{n} + 1)$ , 而其余码字不变. 由于 $c^{'}$ 是将 $c$ 中的每个分量 $c_{i}$ 分别改成 $c_{i} + 1$ , 即 0 改成 1 而 1 改成 0 . 可知对于码 $C$ 中每个 $c$ 以外的码字 $c^{''}, c$ 和 $c^{''}$ 之间的相同位(相异位)恰好是 $c^{'}$ 和 $c^{''}$ 之间的相异位 (相同位). 这就表明 $d (c^{'}, c^{''}) = 4 m -$ $d (c, c^{''}) = 4 m - 2 m = 2 m$ . 换句话说, 将 $C$ 中码字 $c$ 改成 $c^{'}$ 而其余码字不变, 所得新的二元码参数仍为 $(n, K, d) = (4 m, 4 m, 2 m)$ . 如果 $c$ 的第一个分量为 1 , 则 $c^{'}$ 的第 1 个分量为 0 . 所以用上述方法, 由 $C$ 可得到一个二元码, 参数仍为 $(n, K, d) = (4 m, 4 m, 2 m)$ , 并且每个码字的第 1 个分量均为 0 . 现在把这些码字的第 1 个分量都去掉, 成为长 $n - 1$ 的码字, 它们构成的二元码 $C^{'}$ 参数为 $(4 m - 1, 4 m, 2 m)$ , 并且任意两个不同码字的汉明距离仍旧都是 $2 m$ . 二元码 $C^{'}$ 达到 Plotkin 界, 因为 $K = 4 m$ , 而 $2 [\frac{d}{2 d - (4 m - 1)}] =$ $2 [\frac{2 m}{4 m - (4 m - 1)}]$ 也是 $4 m$ . 这就表明: 如果 $4 m$ 阶阿达玛阵存在,由 $C$ 可构造出达到 Plotkin 界的二元码, 参数为 $(4 m - 1, 4 m, 2 m)$ . 这是一类好码.
例如, 由前面的二元码 $C = {(0000), (0101)$ , (0011), (0110) $}$ 可得到二元码 $C^{'} = {(000)$ , $(101), (011), (110)}$ , 参数为 $(n, K, d) = (3, 4$ , 2), 达到 Plotkin 界. 如果关于阿达玛阵的猜想成立, 即对每个正整数 $m$ 均存在 $4 m$ 阶阿达玛阵, 则对于每个 $m ⩾ 1$ , 都可构造出一批好的二元纠错码 $C^{'}$ , 参数为 $(n, K, d) = (4 m - 1, 4 m$ , $2 m)$ .
以上讲了用阿达玛阵构造纠错码的例子,是想向读者表明: 组合学和数论是纠错码理论中的重要数学工具 (构造阿达玛阵需要组合与数论方法). 但是本书从第 2 章开始, 主要介绍纠错码中的代数方法, 讲述线性代数工具的应用.

习题

$1.$ 一个码长为 $8$ 的二元码, 最小距离为 $5$ ,试问最多能有多少码字?(提示：用例 $1.3 .4$ 的方法确定码字个数的上界,并尝试构造。事实上，仿照习题 $1.2 .6$ 可以证明取到码字个数上界的码在等价意义下是唯一的。)

$2.$ 一个码长为 $n$ 的 $p$ 元码, 最小距离为 $2$ ,试问最多能有多少码字?(提示：是否存在参数为 $[n - 1, p^{n - 1}, 1]$ 的码?)

$3.$ 设 $d$ 为偶数, $2 ⩽ d ⩽ n$ . 证明存在参数为 $(n, K, d)$ 的二元码当且仅当存在参数为 $(n - 1$ , $K, d - 1)$ 的二元码.(左推右思路:存在两个向量 $c_{1}$ 和 $c_{2}$ ,使得 $d (c_{1}, c_{2}) = d$ ,只需证明这两个向量至少有一个位置处的分量是相等的，在这种情况下删除这个位置所在列就得到了参数为 $[n - 1, K, d - 1]$ 的码 )(“二元码”这一条件用于右推左)

$4.$ 试构造参数为 $(n, K, d) = (9, 6, 5)$ 和 $(10, 6, 6)$ 的二元码.
解：使用和习题 $1.2 .6$ 同样的办法，可以说明参数为 $(n, K, d) = (9, 6, 5)$ 的码 $C$ 必有以下等价形式，

(\begin{array}{lllllllll} 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\ 1 & 1 & 1 & 1 & 1 & 0 & 0 & 0 & 0 \end{array})

从而我们已经确定了前两个码字，对于后四个码字，同样使用习题1.2.6的办法，可以说明它们的后四个位置中各自都至少有 3 个 1.于是不妨设码 $C$ 为以下形式，

(\begin{array}{lllllllll} 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\ 1 & 1 & 1 & 1 & 1 & 0 & 0 & 0 & 0 \\ 1 & 1 & 1 & 0 \\ 1 & 1 & 0 & 1 \\ 1 & 0 & 1 & 1 \\ 0 & 1 & 1 & 1 \end{array})

此时，观察左下局部 $4 \times 5$ 的子矩阵，(由 Plotkin 界知不存在参数为 $[5, 4, 4]$ 的码),易知其必为参数为 $[n, K, d] = [5, 4, 3]$ 的码，但由习题 $1.2 .6$ 的结果知这个参数的码只有一种等价形式。取一个等价形式进行恰当的等价变形(使得每行都有 $2 - 3$ 个 $1$ )即得，