摘要：
一 01 一边在山路攀登，一边这样思忖。 发挥才智，则锋芒毕露；凭借感情，则流于世俗；坚持己见，则多方掣肘。总之，人世难居。愈是难居，愈想迁移到安然的地方。当觉悟到无论走到何处都是同样难居时，便产生诗，产生画。 创造人世的，既不是神，也不是鬼，而是左邻右舍的芸芸众生。这些凡人创造的人世尚且难居，还有 阅读全文
摘要：
我们已经独立地讨论了“安全”的两个方面：保密性与真实性。现在我们要考虑如何构造一个能够兼顾两个方面的安全性的方案。 选择密文攻击(Chosen-Ciphertext Attacks, CCA) 我们回到普通的私钥加密的场景，这里只有消息\(m\)和私钥\(k\)，没有标签\(t\)。在只考虑被动的没 阅读全文
摘要：
在上一章里当我们讨论“安全(security)”时，其实我们指的是消息的私密性(secrecy)。消息具有私密性，是指具有防止被一个窃听者得知其内容的能力。但有时相比于私密性，我们更在意消息的真实性(authetication)。例如在网购时，或许商家并不在意顾客的订单是否泄露给某些窃听者，而更关心 阅读全文
摘要：
"What's that you are reading?" "It's about Crytography." "Like secret messages?" "Not secret, that's the brilliant part. Messages that anyone can see 阅读全文
摘要：
域的基本概念 如果一个代数结构有加法运算和乘法运算，且存在加法和乘法的单位元，所有元素关于加法是阿贝尔群，所有非零元素关于乘法也是阿贝尔群，这个代数结构就称为域。域一定是整环，因为所有非零元素都有乘法逆元，所以不可能有零因子。我们特别要求，在域中加法和乘法的单位元不能相等。在这样的要求下，最小的域是 阅读全文
摘要：
整环是无零因子的有幺交换环。整环可以看作对整数环\(\Z(+,\cdot)\)的抽象。相比于一般的环，整环这一抽象保留了整数环中“整除”的概念，使得我们能够讨论其元素的“因子”与“分解”。 多项式环 在讨论整环之前，我们先特别讨论一下多项式环。给定环\(R\)，可以给出多项式环\(R[x]=\{a_ 阅读全文
摘要：
Zorn's Lemma陈述如下：在偏序集\(P\)中，如果\(P\)的每一条链都有一个\(P\)中元素作为上界，那么\(P\)中存在极大元。 Proof 反证法，假如\(P\)中没有极大元。那么对于\(P\)的任意一条链\(C\subseteq P\)，我们一定能在\(P\setminus C\) 阅读全文
摘要：
我们采用这样的形式来讨论线性规划：\(\max c^\top x\) subject to \(Ax\leq b\)，其中\(x,c\in \R^n\)，\(A \in \R^{m\times n},b\in \R^m\)。其中\(P=\{x\mid Ax\leq b\}\)称为可行域，是\(\R^ 阅读全文
摘要：
机器学习(Machine Learning)是指面对一个特定问题，我们不直接给出特定的算法，而是通过某种方式让计算机自身获得一个解决这个特定问题的算法的编程模式。机器学习面对的问题主要有两种，一种称为监督学习(Supervised Learning)，一种称为非监督学习(Unsupervised L 阅读全文
摘要：
P130 我知道父亲喜欢带点哲学性质的话题，所以我比以往更亲近他，高兴地听他诉说那些经验丰富又实用的生活智慧。我向他诉说了一些我的烦忧，这是我以前因为害臊而从来没做过的事。这时，我脑海里浮现出一句莫德的名言，便说给父亲听。莫德曾经说过——虽不是认真的——他觉得青春年华是人生中最痛苦的一段时光，他认为 阅读全文
摘要：
环 环的定义与基本性质 下面我们定义一种新的代数结构。如果一个集合\(R\)上有两种二元运算\(+\)与\(\cdot\)分别满足\((R,+)\)构成一个交换群，\((R,\cdot)\)满足封闭性和结合律，同时加法对乘法满足分配律（\(\forall a,b,c\in R,a\cdot (b+c 阅读全文
摘要：
SVM 在二分类问题的逻辑回归中，我们训练出向量\(\beta\)，使得我们能够用\(\dfrac{1}{1+e^{-X_i^\top \beta}}\)来作为样本\(X_i\)被分类为\(y_i=1\)的概率。我们知道sigmoid函数是单调函数，因此实际上我们是在关注\(X_i^\top \be 阅读全文
摘要：
外直积与内直积(External Direct Product & Internal Direct Product)\(\newcommand{\ord}{\text{ord}}\) 定义与性质 假设我们有两个群，它们可以是毫不相关的，记为\(H,K\)。我们可以用笛卡尔积的方式生成二元组的集合\( 阅读全文
摘要：
正态分布 正态分布的微分熵 \(\newcommand{\d}{\text{ d}}\)\(\newcommand{\E}{\mathbb{E}}\)当\(X\)满足正态分布\(N(\mu,\sigma^2)\)时，\(f(x)=\dfrac{1}{\sqrt{2\pi\sigma^2}}e^{-\ 阅读全文
摘要：
微分熵(Differential Entropy)\(\newcommand{\d}{\text{ d}}\) 对于连续的随机变量\(X\)，假如它有概率密度函数\(f(x)\)，那么我们仿照离散熵的表达式，定义\(X\)的微分熵为\(h(X)=-\displaystyle\int_S f(x)\l 阅读全文
摘要：
我们可以从有限群的大小\(|G|\)的质因数分解出发研究有限群的结构。 有限交换群 首先，我们研究交换群。对于交换群而言，所有子群都是正规子群。因此，所有的商集都会形成商群。由此我们能得到一些重要性质。 设\(G\)是有限交换群，\(|G|=n\)。假如\(n\)有素因子\(p\)，也即存在素数\( 阅读全文
摘要：
我们可以从有限群的大小\(|G|\)的质因数分解出发研究有限群的结构。 有限交换群 首先，我们研究交换群。对于交换群而言，所有子群都是正规子群。因此，所有的商集都会形成商群。我们可以很方便地利用商群来简化证明。\(\newcommand{\ord}{\text{ord}}\) 设\(G\)是有限交换 阅读全文
摘要：
陪集(Coset) 对于\(G\)的一个子群\(H\)，每个\(g\in G\)我们都可以定义\(H\to G\)的映射\(f_g(x)=g\circ x\)，这一定是单射，因为消去律成立。对于给定的\(H\)，不同的\(g\)就给出了不同的单射，单射的像一定落在\(G\)中（封闭性），构成\(G\ 阅读全文
摘要：
循环群(Cyclic Group) 生成子群 对于任意群\(G\)的非空子集\(A\)，定义\(\lang A\rang =\bigcap\limits_{i \in I}H_i\)，其中\(H_i\)是所有包含\(A\)的\(G\)的子群。因为子群的交依然是子群，因此\(\lang A\rang\ 阅读全文
摘要：
群的同构(Isomorphism) 现在我们能够更深刻地理解“群”到底是什么。群描述且仅描述一个给定集合以及定义在该集合上的唯一的一个二元运算。任意给定群里的两个元素，我们总能通过“运算”这一方式确定是群里的哪个元素与这两个元素对应。如果我们抛开群中每个元素的具体名字不看，元素个数与这种由每两个元素 阅读全文
摘要：
群(Group)的定义 一般当我们谈论代数时，我们指的是用字母表示数。例如实数域上的代数，我们可以写出\(x\)来表示实数集合上的任意某个元素。我们使用原本的加法符号\(x+y\)表示某两个实数的和，它可能表示\(2+3\)，也可能表示\(12+35\)。这其实是对“数”这一概念的抽象化，使得表达式 阅读全文
摘要：
Channel(信道)\(\newcommand{\X}{\mathcal{X}}\newcommand{\Y}{\mathcal{Y}}\) “通信”(Communication)到底是什么？严格地说，当我们说\(A\)与\(B\)通信时，我们指的是\(A\)通过一些物理作用改变了\(B\)的物理 阅读全文
摘要：
\(\newcommand{\E}{\mathbb{E}}\)\(\newcommand{\X}{\mathcal{X}}\)现在我们要开始讨论熵的意义。讨论的核心就是数据的压缩编码。 首先我们要严格地定义编码。在这里，我们默认用二进制进行编码。事实上，我们将要证明的所有结论对于一般的\(\math 阅读全文
摘要：
随机过程(Stochastic Process)\(\newcommand{\E}{\mathbb{E}}\) 在渐进均分性中，我们讨论的是一列独立同分布的随机变量。现在我们要讨论一列并不独立同分布的随机变量，这样的一列随机变量通常被称为一个“随机过程”，记为\(X_1,X_2,\cdots,X_t 阅读全文
摘要：
渐进均分性(Asymptotic Equipartition Property, AEP) \(\newcommand{\E}{\mathbb{E}}\)在概率论中，我们有（弱）大数定理：对于一列独立同分布的随机变量\(X_1,X_2,\cdots\)。设\(X_i\sim X\)。前\(n\)个随 阅读全文