PT_基本概率公式(减法/加法/乘法/除法(条件概率)/全概率/贝叶斯)@条件概率链式法则@乘法法则

abstract

• 概率公理和概率基本性质
• 基本概率公式及其应用

概率公理

• 概率函数p(简称概率p)满足三个条件:
  1. 非负性:任意事件$A:P(A)⩾0$
  2. 规范性:必然事件$\Omega :P(\Omega )=1$
  3. 两两互斥事件$A_1,\cdots ,A_n,\cdots$之间满足可列可加性:$P(\bigcup _{i=1}^{\infty }{A}_i)$=$\sum _{i=1}^{\infty }P(A_i)$

概率的基本性质

记样本空间为$S$

1. $P(\varnothing )=0$
   • 证明:令$A_i=\varnothing$$(i=1,2,\cdots )$,则$\bigcup _{i=1}^{\infty }{A}_i$=$\varnothing$,从而$P(A_i)$=$P(\bigcup _{i=1}^{\infty }{A}_i)$=$P(\varnothing )$(1)
   • 将(1)代入公理3:$P(\varnothing )$=${\sum }_{i=1}^{\infty }P(\varnothing )$,即${\sum }_{i=1}^{\infty }P(\varnothing )=0$,$P(\varnothing )=0$
2. 有限可加性:对于两两互斥的$A_1,\cdots ,A_n$,满足可列可加性:$P(\bigcup _{i=1}^n{A}_i)$=$\sum _{i=1}^{n}P(A_i)$
   • 证明:令$A_{n+1}=A_{n+2}=\cdots =\varnothing$,即有$A_i{A}_j=\varnothing$,$i\ne j,i,j=1,2,\cdots$(无穷)
   • 由公理3:$P(\bigcup _{i=1}^{\infty }{A}_i)$=$\sum _{i=1}^{\infty }P(A_i)$=$\sum _{i=1}^{n}P(A_i)+0$=$\sum _{i=1}^{n}P(A_i)$
   • $\bigcup _{i=1}^{\infty }{A}_i$=$(\bigcup _{i=1}^n{A}_i)\cup A_{n+1}\cup A_{n+2}\cup \cdots$=$\bigcup _{i=1}^n{A}_i$
   • $P(\bigcup _{i=1}^n{A}_i)$=$P(\bigcup _{i=1}^{\infty }{A}_i)$=$\sum _{i=1}^{n}P(A_i)$
3. 若$A\subset B$,$P(B-A)=P(B)-P(A)$,且$P(A)⩽P(B)$👺
   • 由$A\subset B$可知$B=A\cup (B-A)$,且$A(B-A)=\varnothing$,再由性质2,$P(B)$=$P(A)+P(B-A)$,从而$P(B-A)$=$P(B)-P(A)$
   • 又由概率的非负性,$P(B-A)⩾0$从而$P(B)-P(A)⩾0$
4. 对于任意事件$A$,$P(A)⩽1$
   • 因为$A\subset S$,由性质3,$P(A)⩽P(S)=1$
5. 逆事件概率:$P(\overline{A})$=$1-P(A)$
   • $A\overline{A}=\varnothing$,由有限可加性:$P(A\cup \overline{A})$=$P(A)+P(\overline{A})$
   • 因为$A\cup \overline{A}$=$S$,由概率的规范性:$P(A\cup \overline{A})=P(S)=1$
   • 所以$P(A)+P(\overline{A})=1$,即$P(\overline{A})$=$1-P(A)$

概率的高级性质

减法公式🎈

• $P(B-A)$=$P(B)-P(BA);(\forall A,B)$
  • $B-A=B-BA$,所以$P(B-A)=P(B-BA)$
  • 由概率的基本性质:若$A\subset B$或者$AB=A$,则$P(B-A)=P(B)-P(A)$;
  • 而$BA\subset B$对于任意的$A,B$总是成立的,$P(B-BA)=P(B)-P(AB)$
  • $P(B-A)=P(B-BA)=P(B)-P(AB)$等式成立

例

• $P(A)=\frac{1}{3},P(B)=\frac{1}{2}$
  • $求不同条件下的P(B-A)$
    1. $AB=\varnothing$
       • $P(B-A)=P(B-AB)=P(B)=\frac{1}{2}$
    2. $A\subset B$
       • $P(B-A)=P(B-A)=P(B)-P(A)=\frac{1}{2}-\frac{1}{3}=\frac{1}{6}$
    3. $P(AB)=\frac{1}{8}$
       • $P(B-A)=P(B-BA)=P(B)-P(BA)=\frac{1}{2}-\frac{1}{8}=\frac{3}{8}$

加法公式🎈

• $P(A\cup B)=P(A)+P(B)-P(AB)$;$(\forall A,B)$

• 证:

  • 因为$A\cup B$=$A\cup (B-A)$=$A\cup (B-AB)$;且$A(B-AB)$=$\varnothing$,$AB\subset B$,
  • $P(A\cup B)$=$P(A\cup (B-AB))$=$P(A)+P(B-AB)$=$P(A)+(P(B)-P(AB))$
  • 所以$P(A\cup B)=P(A)+P(B)-P(AB)$

• 三事件的加法公式:$P(A_1\cup A_2\cup B_3)$=$P(A_1)+P(A_2)+P(A_3)-P(A_1{A}_2)-P(A_1{A}_3)-P(A_2{A}_3)+P(A_1{A}_2{A}_3)$

推广加法公式

• 概率论_加法公式(基本+推广)(Addition Rule Of Probability)_xuchaoxin1375的博客-CSDN博客

除法公式(条件概率)🎈

• CP:conditional probability

  • 条件概率的基本观点是某些已获得的信息(某些事情的发生)改变了原本的样本空间
  • 条件概率也是概率(概率函数),不违背三条概率公理

• 在事件A发生的条件下,事件B发生的概率称为B对A的条件概率

  • $CP(B,A)=P(B|A)=\frac{P(AB)}{P(A)}$

  • 从直观上解释,就是样本空间$\Omega$对应到事件A发生时,已经被收缩到${\Omega }_A$

    • 然而,根据具体的情况,某些已知发生事件A并不会导致$\Omega$在收缩过程中变小(收缩量为0)
      • 例如,含有20个球的箱子
        • $记A_i=\{含有残次品数量为i个\}$
        • $记B=抽种的产品都是正品$
        • 假设已知箱子中有1个残次品,那么从中抽取出4件全是正品的可概率?
        • $P(B|A_1)=\frac{\left(\genfrac{}{}{0ex}{}{19}{4}\right)}{\left(\genfrac{}{}{0ex}{}{20}{4}\right)}$
          • 其中${\Omega }_{A_1}=\Omega$

  • 事件AB则一定是落在${\Omega }_A$中

  • $因此计算公式为P(B|A)=\frac{N({\Omega }_{AB})}{N({\Omega }_A)}$

    • 如果我们同时为RHS分子分母同乘以一个$N(\frac{1}{\Omega })$
    • $N(x)表示x中包含的样本电数量$
    • 则:$P(B|A)=\frac{P(AB)}{P(A)}$

条件概率的性质

• $记事件C=B|A,事件C表示的是:$
  • $事件B在事件A已经发生的基础上发生$
  • 或:$事件A已经发生的基础上又发生B$
• 记事件$\overline{C}=\overline{B}|A表示事件A发生的情况下,事件B不发生$
  • 如果说样本点$c\in C,那么c的发生必然导致A的发生,B不发生(或者说导致B的对立事件\overline{B}也一定发生)$
  • $P(\overline{C})=1-P(C)$
  • $P(\overline{B}|A)=1-P(B|A)$
• 类似的,从样本空间收缩的角度理解,有:
  • $P(B_1\cup B_2|A)=P(B_1|A)+P(B_2|A)-P(B_1{B}_2|A)$

小结:

• $P(B|A)=\frac{N({\Omega }_{AB})}{N({\Omega }_A)}$
• $P(B|A)=\frac{P(AB)}{P(A)}$
  • 可以用未缩小样本空间(原样本空间的概率直接计算)
  • 特别的,当$B\subset A,P(AB)=\frac{P(B)}{P(A)}$
• 在实际问题中,条件概率公式的两种形式都有应用
  • 有时,问题中的条件概率是直接给出的

例1

• 取产品(球)问题:
  • 现有3个一等品,2个二等品
  • 现在做不放回抽样,每次抽一件
  • 记A={第一次取得一等品}
    • B={第二次取得二等品}
  • 计算P(B|A)=?
  • 方式1:
    • 从样本空间的缩减角度(利用第一种形式来计算)
      • A发生后,在从剩余的球中抽取一件的样本空间:$\Omega \to {\Omega }_A$,$N({\Omega }_A)=4$
        • 此时事件B的样本点集合元素数:$N({\Omega }_{AB})=2$
    • $P(B|A)=\frac{{\Omega }_{AB}}{{\Omega }_A}=\frac{1}{2}$
  • 方式2:
    • $P(A)=\frac{3}{5}$
    • $P(AB)=\frac{3\times 2}{5\times 4}=\frac{3}{10}$
    • $P(B|A)=\frac{P(AB)}{P(A)}=\frac{1}{2}$

例2

• 某商品每天销售达到10件的概率为0.8;12件的概率为0.56
  • 如果当天已经销售了10件,那么能销售到12件的概率?
  • 记A={销售10件}
  • B={销售12件}
  • 则:$P(A)=0.8;P(B)=0.56$
    • 且:$B\subset A,AB=B$
  • $P(B|A)=\frac{P(BA)}{P(A)}=\frac{P(B)}{P(A)}=$

乘法公式(积事件公式)

• 乘法公式或乘法定理:multiplication rule of probability

• 从条件概率公式变形即可得到积事件的条件概率展开计算公式

• 设$P(A)>0$.则$P(AB)=P(B|A)P(A)=P(A|B)P(B)$

推广

• 设$A,B,C$为三个事件,且$P(AB)>0$,则$P(ABC)$=$P(C|AB)P(AB)$=$P(C|AB)P(B|A)P(A)$

  • 因为$AB\subset A$总是成立的,所以由$P(AB)>0$也就有$P(A)⩾P(AB)>0$

• 更一般的,设$A_1,\cdots ,A_n$为$n$个事件,$n⩾2$,且$P(A_1\cdots A_{n-1})>0$,则

  • 令$P_i=P(A_i|A_1\cdots A_{i-1})$,规定$P_1=P(A_1)$

  • $P(A_1,\cdots A_n)$=$P(A_n|A_1\cdots A_{n-1})P(A_1\cdots A_{n-1})$

    • =$P(A_n|A_1\cdots A_{n-1})P(A_{n-1}|A_1\cdots A_{n-2})\cdots P(A_2|A_1)P(A_1)$

    • =$P_n\cdots P_1$

• 可由归纳法证明

例

• 设袋中由$r$个红球,$t$个白球
• 每次从袋中取出一只球,观察其颜色$x$放回,并在放入$a$只$x$色的球
• 若在袋中连续取球4次后,事件$C$:第1,2次红球,第3,4次白球的概率?
  • 设$A_i(i=1,\cdots ,4)$:第$i$次取到红球
  • 事件$C$=$A_1{A}_2\overline{A_3}\overline{A_4}$
  • 由乘法定理:$P(C)$=$P(\overline{A_4}|A_1{A}_2\overline{A_3})P(\overline{A_3}|A_1{A}_2)P(A_2|A_1)P(A_1)$
  • 显然第$i$次取球时袋中的球的数量为$r+t+a(i-1)$
    • $P_4=\frac{t+a}{r+t+3a}$
    • $P_3=\frac{t}{r+t+2q}$
    • $P_2=\frac{r+a}{r+t+a}$
    • $P_1=\frac{r}{r+t}$
  • 从而$P(C)$=$P_4\cdots P_1$=$\frac{t+a}{r+t+3a}\frac{t}{r+t+2q}\frac{r+a}{r+t+a}\frac{r}{r+t}$

例

• 某透镜第一次落下时打破的概率为$\frac{1}{2}$,第二次落下才打破的概率为$\frac{7}{10}$,第3次落下才打破的概率为$\frac{9}{10}$
• 求事件$C$:落下3次后仍然未打破的概率
  • 设$A_i$=第$i$次落下才打破;则$C$=$\overline{A_1}\overline{A_2}\overline{A_3}$
  • $P(C)$=$P(\overline{A_3}|\overline{A_1}\overline{A_2})$ $P(\overline{A_2}|\overline{A_1})$ $P(\overline{A_1})$
    • 由题意可知:$P(A_3|\overline{A_2}\overline{A_1})$=$\frac{9}{10}$;$P(A_2|\overline{A_1})$=$\frac{7}{10}$,$P(A_1)=\frac{1}{2}$
    • $P(C)$=$(1-\frac{9}{10})(1-\frac{7}{10})(1-\frac{1}{2})$=$\frac{3}{200}$
• 也可以通过求$\overline{C}$,再由$P(C)=1-P(\overline{C})$求得,这种方式不够直接

其他公式

• PT@全概率公式和贝叶斯公式@后验概率和信念度量