概率论研究那些受到随机事件（random events）影响的现象，它们具有很大的不确定性。
基础定义
讨论概率时，最重要的就是不确定性的思想，我们需要引入一个足够宽泛的、用于处理不确定性的概念。偶然性试验（chance experiment）或随机试验（random experiment）是产生不确定结果的过程。例如，扔硬币、测试机械使用寿命等都是随机实验。
定义：偶然性试验的样本空间（sample space）Ω 是实施试验所可能产生结果的集合。Ω 里的元素称为该试验的样本点（sample point）。Ω 的子集称为事件（event）。
只包含一个样本点的事件称为基本事件（elementary event），包含多个样本点的事件称为复合事件（compound event）。
样本空间的划分
翻硬币有 2 个样本点，摇骰子有 6 个样本点，像这种有限的样本空间，称为有限样本空间（finite sample space）。
翻一枚硬币，一直翻到背面为止。这样的随机试验的样本空间是：$\Omega=\{T, H T, H H T, H H H T, \ldots\}$。这种样本空间是无限的，但是同时又是可以枚举的，因此称为可数无限样本空间（countably infinite sample space）。
检测灯泡的使用寿命，这样的随机试验的样本空间是：$\Omega=\{t: t \geq 0\}=[0, \infty)$，这种样本空间是不可数的集合，通常称为连续样本空间（continuous sample space）。处理这种样本空间的技巧，与有限样本空间和可数无限样本空间的技巧，有很大的不同。通常又把有限样本空间和可数无限样本空间，统称为离散样本空间（discrete sample space）。
事件的运算
通过定义样本空间这样的集合，以及定义事件作为样本空间的子集。因此，集合论里面的运算自然衍生到了事件的运算。
首先定义事件的发生（occured）：对于事件 A∈Ω ，当进行试验时，我们观察到的结果（output）ω∈Ω ，同时也满足 ω∈A 的条件，那么就称事件 A 发生了。
根据这样的定义，那么对于两个事件 A 和 B，满足 A⊆B，那么如果 A 发生，必然有 B 发生。
如果 A⊆B 且 B⊆A，显然根据集合论，A=B。此时，如果事件 A 发生，那么事件 B 发生；反之亦然。由此引入事件等价的定义。
定义：当事件 A 发生，必然有事件 B 发生；反之亦然。那么称 A 和 B 是等价的（equivalent），写作 A=B。
集合论里面全集和空集的概念，对应到事件中，就称为必然事件（certain event）和不可能事件（impossible event）。
定义：事件 A 和 B 的并（union）定义为 A∪B，其含义是 A 或 B 发生。
定义：事件 A 和 B 的交（intersection）定义为 A∩B 或 AB，其含义是 A 且 B 发生。
多个事件的交和并，同样用集合论的语言来表示：
$$
\bigcup_{i=1}^{\infty} A_{i} \text { and } \bigcap_{i=1}^{\infty} A_{i}=\prod_{i=1}^{\infty} A_{i}
$$
定义：已知在样本空间 Ω 上定义的事件 A 和 B，如果 A∪B=∅，那么称 A 和 B 互斥事件（disjoint or mutually exclusive events）。
对于多个事件 Ai，如果满足：
$$
A_{i} A_{j}=\emptyset \quad \text { for any } i \neq j(i, j=1,2, \ldots, n)
$$
那么称事件 Ai 两两互斥（pairwise disjoint）。
定义：令 A 是样本空间上的事件。它的补集称为对立事件（complementary event），当且仅当 A 不发生时，A 的对立事件发生。A 的对立事件记作：$A^{\prime}$ or $\bar{A}$ or $A^{c}$。
定义：事件 A 与 B 的差（difference）指这样的事件，当该事件发生时，A 发生，而 B 不发生，记作 A-B。
于是有这样的关系：
$$
A^{\prime}=\Omega-A \quad \text { and } \quad A-B=A B^{\prime}
$$
所有都是套用集合论上面而来的，以下是事件运算的性质：
- $A \cup A=A \quad A A=A$
- $A \cup \emptyset=A \quad A \emptyset=\emptyset$
- $A \cup \Omega=\Omega \quad A \Omega=A$
- $A \cup B=B \cup A \quad A B=B A$
- $A \cup(B \cup C)=(A \cup B) \cup C \quad A(B C)=(A B) C$
- $A \cup(B C)=(A \cup B)(A \cup C) \quad A(B \cup C)=(A B) \cup(A C)$
- $A \cup A^{\prime}=\Omega \quad A A^{\prime}=\emptyset$
- $\left(A^{\prime}\right)^{\prime}=A$
- If $A \subseteq B$ and $B \subseteq C$, then $A \subseteq C$
- If $A \subseteq B$, then $B^{\prime} \subseteq A^{\prime}$ and vice versa
- If $A \subseteq B$, then $A B=A$ and $A \cup B=B$.
De Morgan 定律：
$$
(A \cup B)^{\prime}=A^{\prime} B^{\prime}, \quad(A B)^{\prime}=A^{\prime} \cup B^{\prime}
$$
参考
- Balakrishnan N, Koutras M V, Politis K G. Introduction to Probability: Models and Applications[M]. John Wiley & Sons, 2019.
posted on
