摘要： 有限域 1. 群 1.1 基本概念 定义 ：一个集合$G$以及定义在集合$G$上的二元运算 $ $ 称为群（group），若满足以下条件： 1. $ $ 运算满足结合律 2. $G$有单位元 3. 对于任意$a \in G$，$a$有逆元 若群上的运算满足交换律，则称该群为可交换群或阿贝尔群。 群是 阅读全文

摘要： 线性分组码 1. 线性分组码 分组码：信息划分成固定长度$k$的分组，各个分组依次编码。 $\boldsymbol{u} = (u_0, \dots, u_{k 1})$编码为$\boldsymbol{v} = (v_0, \dots, v_{n 1})$，其中$n \gt k$，$\boldsym 阅读全文

摘要： 弱典型性、强典型性 1. Weak AEP 考虑信源$\left\{X_{k}:k\ge 1\right\}$，其中$X_{k}$独立同分布，服从$p(x)$，用$X$表示一般性的变量，即任何的$X_{k}$都与$X$同分布。 Weak AEP I ： $\displaystyle \frac{1} 阅读全文

摘要： 信息度量 1. 独立与马尔可夫链 独立 （Independence） 对于两个随机变量$X$和$Y$，若对所有的$(x, y) \in \mathcal{X} \times \mathcal{Y}$，都有 $$ p(x, y) = p(x)p(y) $$ 则称$X$和$Y$独立，记为$X \perp 阅读全文