01 概率论的基本概念 | 概率论与数理统计
1. 随机试验
1. 随机试验的特点：
- 可重复性：每次可以在相同的条件重复的进行实验
- 可观察性：每次实验的可能结果不止一个，并且是先明确实验的所有可能结果
- 不确定性：进行一次试验之前不能明确哪一个结果会发生
2. 样本空间和随机事件
1. 样本空间
- 样本空间\((Sample\enspace Space)\)：随机试验\(E\)中所有可能结果的集合
- 样本点：\(E\)中的每一个结果
2. 随机事件
- 随机事件：样本空间\(S\)的子集为\(E\)的随机事件
- 基本事件：由一个样本点组成的单点集
- 不可能事件 \(\varnothing\)
3. 事件之间的关系和运算
- 包含：\(A\subset B\)，A发生必然导致B发生
- 和事件：\(A\cup B\)，当且仅当A和B至少有一个发生，和事件发生；类似的，\(\bigcup_{k=1}^{n}A_k\)为\(A_1 , A_2 , \dots A_n\)的和事件
- 积事件：\(A\cap B\)，当且仅当A和B都发生，积事件\(AB\)发生；类似的，\(\bigcap_{k=1}^{n}A_k\)为\(A_1 , A_2 , \dots A_n\)的积事件
- 差事件：\(A-B\)，A发生而且B不发生
- 互斥事件：若\(A\cap B = \varnothing\)，则A和B为互斥事件
- 对立事件：若\(A\cup B = S , A\cap B = \varnothing\)，则A和B为对立事件
德摩根律：
\[\begin{gather}
\overline{\bigcup_{i = 1}^{n}A_i} = \bigcap_{i = 1}^{n}\overline{A_i}\\
\overline{\bigcap_{i = 1}^{n}A_i} = \bigcup_{i = 1}^{n}\overline{A_i}
\end{gather}
\]
3. 频率与概率
1. 频率
- 频数：在相同条件下进行 \(n\) 次实验，事件 \(A\) 发生的次数 \(n_A\) 为事件 \(A\) 的频数
- 频率：比值 \(\frac{n_A}{n}\) 称为事件 \(A\) 发生的频率 ， 记作 \(f_n(A)\)
- 频率的性质：
- \(0\le f_n(A)\le 1\)
- \(f_n(S) = 1\)
- 如果 \(A_1,A_2,\cdots,A_n\) 为不相容事件，那么 \(f_n(A_1\cup A_2 \cup \cdots \cup A_n) = f_n(A_1) + f_n(A_2) + \cdots +f_n(A_n)\)
2. 概率
- 概率 \(P(A)\) ： 满足以下条件
- 非负性： \(P(A) \ge 0\)
- 完备性（规范性）： 对于必然事件 \(S , P(S) = 1\)
- 可列可加性：如果 \(A_1,A_2,\cdots,A_n\) 为不相容事件，那么 \(P(A_1\cup A_2 \cup \cdots \cup A_n) = P(A_1) + P(A_2) + \cdots +P(A_n)\)
- 概率的性质
- \(P(\varnothing) = 0\)
- 有限可加性：如果 \(A_1,A_2,\cdots,A_n\) 为不相容事件，那么 \(P(A_1\cup A_2 \cup \cdots \cup A_n) = P(A_1) + P(A_2) + \cdots +P(A_n)\)
- 如果 \(A\subset B\) ， 则有 \(P(B -A) = P(B) - P(A) , P(A)\le P(B)\)
- \(P(A)\le1\)
- \(P(\overline{A}) = 1 - P(A)\)
- 容斥原理：\(P(A_1\cup A_2 \cup \cdots \cup A_n) = \sum_{i = 1}^{n}P(A_i) - \sum_{1\le i< j \le n}P(A_iA_j) +\cdots+(-1)^{n-1}P(A_1A_2\cdots A_n)\)
4. 古典概型
1. 古典概型：等可能概型：
- 样本空间包含有限个元素
- 每个基本事件的发生的可能性相同
- 如果事件 \(A\) 包含 \(k\) 个基本事件，即 \(A = e_1 \cup e_2 \cup \cdots \cup e_k\) ， 则 \(P(A) = \sum_{j = 1}^{k}P(e_j) = \frac{k}{n} = \frac{A包含的基本事件数}{S包含的基本事件数}\)
2. 超几何分布
\[P = \frac{C_{D}^{k} \cdot C_{N-D}^{n-k}}{C_{N}^{n}}
\]
5. 条件概率
1. 条件概率
- 概念：设两个事件是 \(A\) 和 \(B\)，并且 \(P(A)>0\) ，则称 \(P(B|A) = \frac{P(AB)}{P(A)}\) 为在事件\(A\)发生的条件下事件\(B\)发生的概率
- 性质
- 非负性：对于每一个事件 \(B\)， 必有 \(P(B|A)\ge 0\)
- 规范性: 对于必然事件 \(S\)，有 \(P(S|A) = 1\)
- 可列可加性：如果 \(B_1,B_2,\cdots,B_n\) 为不相容事件，那么 \(P(B_1\cup B_2 \cup \cdots \cup B_n | A) = P(B_1|A) + P(B_2|A) + \cdots +P(B_n|A)\)
2. 乘法定理
- 乘法公式：设 \(P(A) > 0\)，则有 \(P(AB)=P(B|A)P(A)\)
- 推广：设 \(P(AB) > 0\)，则有 \(P(ABC)=P(C|AB)P(B|A)P(A)\)；一般的，设 \(A_1,A_2,\cdots , A_n\)为\(n\)个事件，\(n\ge 2\)，且\(P(A_1A_2\cdots A_{n-1})>0\)，则有
\[P(A_1A_2\cdots A_n) = P(A_n|A_1,A_2,\cdots , A_{n-1})P(A_{n-1}|A_1,A_2,\cdots , A_{n-2})\cdots P(A_{2}|A_1)P(A_1)
\]
3. 全概率公式和贝叶斯公式
- 划分：设 \(S\)是试验 \(E\) 的样本空间，\(B_1,B_2,\cdots,B_n\)为\(E\)的一组事件，若
- \(B_iB_j=\varnothing , i \ne j ,i,j = 1,2,\dots , n\)
- \(B_1\cup B_2\cup \cdots \cup B_n = S\)
则称 \(B_1,B_2,\cdots B_n\) 为样本空间 \(S\) 的一组 划分
- 全概率公式：设 \(S\)是试验 \(E\) 的样本空间，\(B_1,B_2,\cdots,B_n\)为\(E\)的一个划分，\(P(B_i)>0\) , \(A\) 为 \(S\) 的一个事件，则有 全概率公式
\[P(A) = P(A|B_1)P(B_1) + P(A|B_2)P(B_2) +\cdots + P(A|B_n)P(B_n)
\]
- 贝叶斯公式：设 \(S\)是试验 \(E\) 的样本空间，\(B_1,B_2,\cdots,B_n\)为\(E\)的一个划分，\(P(B_i)>0\) , \(A\) 为 \(S\) 的一个事件，\(P(A)>0\)，则有贝叶斯\((Bayes)\)公式
\[P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum_{j=1}^{n}P(A|B_j)P(B_j)} \qquad i = 1,2,\cdots,n
\]
- 若取 \(n=2\) ，那么全概率公式和贝叶斯公式变化为：
\[\begin{gather}
P(A) = P(A|B)P(B) + P(A| \overline{B} )P(\overline{B}) ,\\ \\
P(B|A) = \frac{P(AB)}{P(A)}=\frac{P(A|B)P(B)}{P(A|B)P(B) + P(A| \overline{B} )P(\overline{B})}
\end{gather}
\]
6. 独立性
- 独立性定义：\(P(AB)=P(A)P(B)\)
- 若 \(A,B\) 相互独立，且\(P(A)>0\)，则\(P(B|A)=P(B)\)
- 若 \(A,B\) 相互独立，则\(A\)与\(\overline{B}\)，\(\overline{A}\)与\({B}\)，\(\overline{A}\)与\(\overline{B}\)相互独立
- \(n\) 个事件的独立性
- 三个事件\(A,B,C\) 如果满足
\[ \begin{gather} P(AB)=P(A)P(B)\\ P(AC)=P(A)P(C)\\ P(BC)=P(B)P(C)\\ P(ABC)=P(A)P(B)P(C) \end{gather} \]则称事件\(A,B,C\)相互独立
2. 对于 \(n\) 个事件，如果对于任意\(2,3,\dots,n\)个积事件的概率都等于各事件的概率之积，则称这\(n\)个事件相互独立
