【学习笔记】概率论与数理统计 PMS Chapter 1 随机事件及其概率

PMS Chapter 1 随机事件及其概率

目录

• PMS Chapter 1 随机事件及其概率
  • 1.1 随机试验与随机事件
    • 1.1.1 随机试验
    • 1.1.2 样本空间
    • 1.1.3 事件与集合的对应关系
    • 1.1.4 事件的运算
  • 1.2 频率与概率
    • 1.2.1 频率
    • 1.2.2 概率
  • 1.3 古典概型与几何概型
    • 1.3.1 古典概型（等可能模型）
    • 1.3.2 几何概型
  • 1.4 条件概率与乘法公式
    • 1.4.1 条件概率
    • 1.4.2 乘法公式（乘法定理）
  • 1.5 全概率公式与贝叶斯公式
    • 1.5.1 全概率公式
    • 1.5.2 贝叶斯公式(后验概率)
  • 1.6 事件的独立性和伯努利实验
    • 1.6.1 事件的独立性
    • 1.6.2 伯努利实验

1.1 随机试验与随机事件

1.1.1 随机试验

满足以下三个特点的试验成为随机试验（简称试验），用\(E\)表示.

• 可重复性

• 多结果性

• 不确定性

1.1.2 样本空间

将试验\(E\)的所有可能结果组成的集合成为\(E\)的样本空间，记作 \(\Omega\)（或 \(S\)）。样本中间的元素（即\(E\)的每个结果），称为样本点，记作 \(\omega\).

1.1.3 事件与集合的对应关系

• 必然事件：\(\Omega\).

• 基本事件：样本点，单点集.

• 随机事件：\(\Omega\) 的子集.

• 不可能事件：\(\varnothing\).

1.1.4 事件的运算

• 包含：\(A\subset B\)，表示\(A\)发生必然导致\(B\)发生.

• 并（和）：\(A\cup B=A+B\)，表示\(A、B\)至少有一个发生.

• 交（积）：\(A\cap B=AB\)，表示\(A、B\)同时发生.

• 事件的差：\(A-B=A-AB=A\overline{B}\)，表示\(A\)发生而\(B\)不发生.

• 互不相容（互斥）：\(AB=\varnothing\)，表示\(A、B\)不能同时发生.

• 对立事件：\(A\cup B=\varnothing\land A\cap B=\varnothing\)，\(A\)的对立事件记作\(\overline{A}\).

\(A,B\text{对立}\Rightarrow A,B\text{互不相容}\).

• 完备事件组：类似离散数学的划分.

1.2 频率与概率

1.2.1 频率

频率： \(\frac{3}{5}=0.6\)，\(\frac{52}{100}=0.52\).

• 稳定性

1.2.2 概率

概率：事件\(A\)对应的实数\(P(A)\)为事件的概率，即\(事件A\rightarrow 实数P(A)\)其中\(P(A)\in [0,1]\).

• 非负性：\(P(A) \geq 0\).
• 规范性：\(\Omega\)，\(P(\Omega)=1\).

1. \(A=\varnothing\Rightarrow P(A)=0\)，但\(P(A)=0\nRightarrow A=\varnothing\)，即概率为\(0\)的事件也可能发生.

2. 有限可加性：\(\text{若}A_1,A_2,…A_n,…\text{互不相容}，\text{则}P(\sum_{i=1}^{n} A_i)=\sum_{i=1}^{n} P(A_i)\)，

   特别的，\(A,B\text{互不相容}\Rightarrow P(A+B)=P(A)+P(B)\).

3. \(P(\overline{A})=1-P(A)\)，或\(P(A)+P(\overline{A})=1\).

4. \(B\subset A\Rightarrow P(A-B)=P(A)-P(B)\)，且\(P(A)\geq P(B)\).

推广：对任意事件\(A,B\)，都有\(P(A-B)=P(A\overline{B})=P(A)-P(AB)\).

5. \(P(A\cup B)=P(A)+P(B)-P(AB)\)，也即\(A\cup B=A\cup(B-AB)\)，类似离散数学的容斥定律.

1.3 古典概型与几何概型

1.3.1 古典概型（等可能模型）

• 有限个样本点
• 等可能性

1.3.2 几何概型

1.4 条件概率与乘法公式

1.4.1 条件概率

• 定义：样本空间为 \(\Omega\) ，对于\(A\)、\(B\)两个事件，且\(P(A)>0\)，在\(A\)已经发生的条件下，\(B\)发生的概率称为\(B\)对\(A\)的条件概率，记作\(P(B|A)\).
• 推导：

\[P(A|B)=\frac{P(AB)}{P(B)} \]

• 公理：

  • 公理\(1\)：\(P(B|A)\geq 0\).

  • 公理\(2\)：\(P(\Omega |A)=1\).

    \(0\leq P(B|A)\leq 1\).

  • 公理\(3\)：$B_1,B_2, … $两两互不相容，则:

    \[P(\sum_{i=1}^{\infty}B_i|A)=\sum_{i=1}^{\infty}P(B_i|A) \]

• 性质：

  • 性质\(1\)：\(P(\varnothing|A)=0\).

  • 性质\(2\)：\(P(B_1 \cup B_2|A)=P(B_1|A)+P(B_2|A)-P(B_1B_2|A)\).

    特别的，当\(B_1,B_2\)互不相容时，\(P(B_1 \cup B_2|A)=P(B_1|A)+P(B_2|A)\).

  • 性质\(3\)：\(P(B|A)+P(\overline{B}|A)=1\).

1.4.2 乘法公式（乘法定理）

\[P(B|A)=\frac{P(AB)}{P(A)},P(A)>0\; \Leftrightarrow \;P(AB)=P(A)P(B|A) \\ P(ABC)=P(A)P(B|A)P(C|AB),P(AB)>0. \]

1.5 全概率公式与贝叶斯公式

1.5.1 全概率公式

• 定义：假设 \(A_1,A_2,…,A_n\) 为完备事件组，\(P(A_i)>0\)，则有

\[P(B)=P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+...+P(A_n)P(B|A_n) \]

注：若\(A_1,A_2,…,A_n\)互斥，\(B\subset\sum_{i=1}^{n}A_i\)，上式亦成立.

1.5.2 贝叶斯公式(后验概率)

• 定义：假设 \(A_1,A_2,…,A_n\) 为完备事件组，\(P(A_i)>0\)，\(B\) 为任意事件，\(P(B)>0\)，则有

\[P(A_k|B)=\frac{P(A_kB)}{P(B)}=\frac{P(A_k)P(B|A_k)}{P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+...+P(A_n)P(B|A_n)} \]

1.6 事件的独立性和伯努利实验

1.6.1 事件的独立性

• 定义：
  • 定义\(1\)：若\(P(A)>0\)，\(P(B|A)=P(B)\)，则 \(B\) 对于 \(A\) 独立.
  • 定义\(2\)：若\(P(A|B)=P(A)\text{且}P(B|A)=P(B)\)，则称为 \(A,B\) 相互独立.
  • 定义\(2\)推导：设\(A,B\)为随机事件，\(A,B\) 相互独立 \(\Leftrightarrow\) \(P(AB)=P(A)P(B)\).
• 性质：
  • 性质1：\(\varnothing\) 与 \(A\) 独立.
  • 性质\(2\)：\(\Omega\) 与 \(A\) 独立.
  • 性质\(3\)：\(A,B\) 相互独立，则 \(A\) 与 \(\overline{B}\)，\(\overline{A}\) 与 \(B\)，\(\overline{A}\) 与 \(\overline{B}\) 相互独立.
  • 性质\(4\)：\(P(A)=1\)，则 \(A\) 与 \(B\) 独立.
• 若\(P(A)>0，P(B)>0\)，则：
  • \(A,B\) 相互独立 \(\Rightarrow\) \(P(AB)=P(A)P(B)>0\) \(\Rightarrow\) \(AB\neq\varnothing\) \(\Rightarrow\) \(A,B\) 相容.
  • \(A,B\) 互不相容 \(\Rightarrow\) \(AB=\varnothing\) \(\Rightarrow\) \(P(AB)=0\) \(\Rightarrow\) \(A,B\) 互不独立.
  • 因此 A,B 相互独立 与 A,B 互不相容 互斥.

1.6.2 伯努利实验

• 定义：只有 \(A\) 与 \(\overline{A}\) 发生的事件称为伯努利实验。若发生了 \(n\) 次，则称为 \(n\) 重伯努利实验.
• 定理：对于 \(n\) 重伯努利实验，\(P(A)=p\)，若 \(A\) 发生了 \(k\) 次，则发生的概率为 \(P=C_n^k p^k(1-p)^{n-k}\).