《计算理论》学习笔记

Lecture 1：数理逻辑 Mathematical Logic

前半部分速通了一些后面课程会讲的内容。

形式逻辑系统 formal logical system

形式系统 formal system 由以下部分组成：

一个符号 symbol 集合。
一个有限长符号串的集合，集合里的每个元素都是 合式公式 well-formed formula (wf.)。也称命题 proposition, statement。
一个合式公式的集合，称为公理 axiom。
一个有限的 推理规则 rule of deduction 集合。

可以根据公理和推理规则证明定理 theorem。

完美逻辑系统 perfect logical system：

可靠性 soundness：任何定理都是真的。
一致性 consistency：不存在 $A$ 和非 $A$ 都是定理。
完备性 completeness：所有真命题都可以被证明（是定理）。

一些常见的逻辑系统：

命题逻辑 statement logic：以逻辑运算符和子命题构成命题，如 $E \to (F \lor G)$ 。
一阶逻辑 first-order logic：加入量词 $\forall$ 和 $\exists$ ，如 $(\exists x) (\forall y) (N (x) \land \neg R (y))$ 。
一阶算术 first-order arithmetic：加入代数公理，如 $(\forall y) (0 + y = y)$ 。

Godel 不完备定理 Godel's incompleteness theorem：任何含有算术的形式系统都有 不可判定 undecidable 的命题。不可判定，即不可被证明为真，也不可被证明为假。

Godel 完备定理 Godel's completeness theorem：存在完备的一阶逻辑系统。

略去逻辑运算符和对应的真值表。注意 $(F \to T)$ 和 $(F \to F)$ 都是 $T$ 。

命题式 statement form：

任何 命题变量 statement variable 都是命题式。
若 $A, B$ 是命题式，则 $(\neg A)$ ， $(A \land B)$ ， $(A \lor B)$ ， $(A \to B)$ 和 $(A \leftrightarrow B)$ 都是命题式。

任何命题式都有对应的真值表。

重言式 tautology：在任何命题变量的赋值下为真，如 $(p \lor \neg p)$ 。

矛盾式 contradiction：在任何命题变量的赋值下为假，如 $(q \land \neg q)$ 。

$A$ 逻辑蕴含 logical impliy $B$ ，若 $(A \to B)$ 是重言式。

$A$ 和 $B$ 逻辑等价 logical equivalent，若 $(A \leftrightarrow B)$ 是重言式。

一些简单的规则：

若 $A$ 和 $(A \to B)$ 都是重言式，那么 $B$ 是重言式。
用任何命题式代替重言式的命题变量，所得结果依然是重言式。

德·摩根定律 De Morgan's law：典。

范式 normal form：仅含 $\neg, \land, \lor$ 的命题式。任何真值表都可以由某个范式得到。

析取范式 disjunctive normal form (DNF) 和 合取范式 conjunctive normal form (CNF)：典，见 2-SAT。

任何不矛盾的命题式都可以写成 CNF 和 DNF。

完备联结词集 adequate set of connectives：任何真值函数都可以由仅由该联结词集合构成的命题式得到。 ${\neg, \land}, {\neg, \lor}, {\neg, \to}$ 都是完备联结词集。

论证形式 argument form $A_{1}, \dots, A_{n}; ∴ A$ 合法，当且仅当 $((A_{1} \land \dots \land A_{n}) \to A)$ 是重言式。

命题演算形式系统 propositional calculus

考虑这样一个形式系统 $L$ ：

符号集合： $\neg, \to, (,), p_{1}, p_{2}, \dots$ 。
命题集合： $p_{i}, (\neg A), (A \to B)$ ，其中 $A, B$ 是命题。
公理集合：
- L1. $(A \to (B \to A))$ 。
- L2. $((A \to (B \to C)) \to ((A \to B) \to (A \to C)))$ 。
- L3. $((\neg A \to \neg B) \to (B \to A))$ 。
推理规则集合：
- 肯定前件 modus ponens (MP)：由 $A$ 和 $(A \to B)$ 推出 $B$ 。

$L$ 中的证明 proof 是一系列命题 $A_{1}, \dots, A_{n}$ ，满足 $A_{i}$ 要么是 $L$ 的公理，要么是 $A_{j}$ 和 $A_{k} (j, k < i)$ 根据 MP 得到的结果。它是 $A_{n}$ 在 $L$ 中的证明。因此 $A_{n}$ 是定理 theorem，记为 $⊢_{L} A_{n}$ 。

Exercise 1

仅使用 L1 和 L2 证明 $⊢_{L} (A \to A)$ 。

Proof

$\begin{aligned} (1) & (A \to ((B \to A) \to A)) & (L 1) \\ (2) & ((A \to ((B \to A) \to A)) \to ((A \to (B \to A)) \to (A \to A))) & (L 2) \\ (3) & ((A \to (B \to A)) \to (A \to A)) & (M P (1) (2)) \\ (4) & (A \to (B \to A)) & (L 1) \\ (5) & (A \to A) & (M P (3) (4)) \end{aligned}$
$◻$

命题集合 $Γ$ 在 $L$ 中的推论 deduction 是一系列命题满足 $A_{i}$ 要么是 $L$ 的公理，要么属于 $Γ$ ，要么是 $A_{j}$ 和 $A_{k}$ 根据 MP 得到的结果。记为 $Γ ⊢_{L} A_{n}$ 。

Exercise 2

${A, (B \to (A \to C))} ⊢_{L} (B \to C)$
Proof

$\begin{aligned} (1) & A & (Γ) \\ (2) & (A \to (B \to A)) & (L 1) \\ (3) & (B \to A) & (M P (1) (2)) \\ (4) & (B \to (A \to C)) & (Γ) \\ (5) & ((B \to (A \to C)) \to ((B \to A) \to (B \to C))) & (L 2) \\ (6) & ((B \to A) \to (B \to C)) & (M P (4) (5)) \\ (7) & (B \to C) & (M P (3) (6)) \end{aligned}$
$◻$

演绎定理 deduction theorem： $Γ \cup {A} ⊢_{L} B$ 当且仅当 $Γ ⊢_{L} (A \to B)$ 。

Proof

充分性显然，必要性对 $Γ \cup {A} ⊢_{L} B$ 的证明长度归纳，详见维基百科。

提示：如果 $B$ 是由 MP 得到的，那么 $Γ \cup {A} ⊢_{L} C$ 和 $Γ \cup {A} ⊢_{L} (C \to B)$ 的证明长度小于 $n$ 。

假言三段论 hypothetical syllogism (HS)： ${(A \to B), (B \to C)} ⊢_{L} (A \to C)$ 。使用演绎定理证明。

Exercise 3

$⊢_{L} (\neg B \to (B \to A))$
Proof

根据 $(\neg B \to (\neg A \to \neg B))$ 显然。 $◻$

Corollary

如果 $B$ 和 $\neg B$ 都在 $L$ 中，那么任意命题 $A$ 都是定理。

Exercise 4 (Difficult)

$⊢_{L} ((\neg A \to A) \to A)$
Proof

设 $B = (\neg A \to A)$ 。

练习 1 证明了 $⊢_{L} (A \to A)$ ，记为 L4。

$\begin{aligned} (1) & (\neg A \to (\neg \neg B \to \neg A)) & (L 1) \\ (2) & ((\neg \neg B \to \neg A) \to (A \to \neg B)) & (L 3) \\ (3) & (\neg A \to (A \to \neg B)) & (H S (1) (2)) \\ (4) & ((\neg A \to (A \to \neg B)) \to ((\neg A \to A) \to (\neg A \to \neg B))) & (L 2) \\ (5) & (B \to (\neg A \to \neg B)) & (M P (3) (4)) \\ (6) & ((\neg A \to \neg B) \to (B \to A)) & (L 3) \\ (7) & (B \to (B \to A)) & (H S (5) (6)) \\ (8) & ((B \to (B \to A)) \to ((B \to B) \to (B \to A))) & (L 2) \\ (9) & ((B \to B) \to (B \to A)) & (M P (7) (8)) \\ (10) & (B \to B) & (L 4) \\ (11) & (B \to A) & (M P (9) (10)) \end{aligned}$
$◻$

Corollary

如果 ${\neg A} ⊢_{L} A$ ，那么 $⊢_{L} A$ 。

命题集合的赋值 valuation 是对命题变量的自洽的真假赋值（例如若 $v (p_{1}) = v (p_{2}) = T$ ，则 $v (p_{1} \land p_{2}) = T$ ）。命题 $A$ 是 重言式 tautology，若对任意赋值 $v$ ， $v (A) = T$ 。

记 $⊨_{L} A$ 表示对任意使得 $L$ 中公理为真的赋值 $v$ ， $v (A) = T$ 。

检验一个命题的最直接方法是枚举所有可能的情况。

注意 $⊢_{L} A$ 和 $⊨_{L} A$ 的区别： $⊢_{L} A$ 表示 $A$ 由 $L$ 的公理和推理规则得到， $⊨_{L} A$ 表示当 $L$ 的公理为真时， $A$ 一定为真。

如果能推出但不一定为真，那么系统就是不可靠的。如果一定为真但不能推出，那么系统就是不完备的。

可靠性 soundness： $⊢_{L} A ⟹ ⊨_{L} A$ 。
一致性 consistency：不存在 $A$ 使得 $A$ 和 $\neg A$ 都是定理。一致性是逻辑系统的基本要求，否则所有命题都是定理，这个系统就是无意义的。
完备性 adequacy： $⊨_{L} A ⟹ ⊢_{L} A$ 。注意和 completeness 区分（ $A$ 和 $\neg A$ 恰有一个是定理）。

那么一个可靠，一致且完备的命题演算形式系统满足 $A$ 是定理当且仅当 $⊨_{A}$ 。

系统的可靠性和一致性是显然的。接下来证明 adequacy。

$L$ 的扩展 extension $L^{*}$ 是将 $L$ 的公理集合扩大得到的形式系统，使得 $L$ 的定理在 $L^{*}$ 中依然是定理。 $L^{*}$ 是一致的，若存在命题不是 $L^{*}$ 的定理：一致性要求不存在 $A$ 和 $\neg A$ 都是定理，如果不满足一致性，根据练习 3 能推出所有命题都是定理。

Proposition

设 $L^{*}$ 是 $L$ 的扩展， $A$ 不是 $L^{*}$ 的定理，那么往 $L^{*}$ 的公理加入 $\neg A$ 得到的扩展 $L^{* *}$ 是一致的。

Proof

如果 $L^{* *}$ 不一致，那么 $⊢_{L^{* *}} A$ 。于是 $⊢_{L^{*}} (\neg A \to A)$ 。根据练习 4， $⊢_{L^{*}} A$ ，和 $A$ 不是 $L^{*}$ 的定理矛盾。 $◻$

根据以上结论，考虑所有命题 $A_{0}, A_{1}, \dots$ 。从 $L = L_{0}$ 开始，如果 $⊢_{L_{i}} A_{i}$ ，那么 $L_{i + 1} = L_{i}$ ，否则 $L_{i + 1} = L_{i} \cup {\neg A_{i}}$ 。最终令 $L^{*} = ⋃_{i} L_{i}$ ，则 $L^{*}$ 是 $L$ 的一致且 complete 的扩展。这个 complete 的系统对应一个赋值，满足所有定理的取值为 $T$ 。

完备性定理 adequacy theorem：若 $⊨_{L} A$ ，则 $A$ 是定理。

Proof

如果 $A$ 不是定理，那么将 $L$ 扩展为 $L \cup {\neg A}$ ，再扩展成一致且 complete 的系统 $L^{*}$ ，那么 $⊢_{L^{*}} \neg A$ 。因此存在满足 $L$ 的公理的赋值 $v$ 使得 $v (\neg A) = T$ ，和 $⊨_{L} A$ 矛盾。 $◻$