全概率定理和贝叶斯准则

全概率定理

设\(A_1, A_2, ..., A_n\)是一组不相容的事件，形成样本空间的一个分割（每一个实验结果必定使得其中一个事件发生）。又假定对每一个\(i\)，\(P(A_i)>0\)。则对于任何事件\(B\)，下列公式成立：

\[\begin{equation}\begin{split} P(B)&=P(A_1\bigcap B)+...+P(A_n|\bigcap B) \\ \quad&=P(A_1)P(B|A_1)+...+P(A_n)P(B|A_n) \end{split}\end{equation} \]

贝叶斯准则

设\(A_1, A_2, ..., A_n\)是一组不相容的事件，形成样本空间的一个分割（每一个实验结果必定使得其中一个事件发生）。又假定对每一个\(i\)，\(P(A_i)>0\)。则对于任何事件\(B\)，只要它满足\(P(B)>0\)，下列公式成立：

\[\begin{equation}\begin{split} P(A_i|B)&=\frac{P(A_i)P(B|A_i)}{P(B)} \\ \quad&=\frac{P(A_i)P(B|A_i)}{P(A_1)P(B|A_1)+...+P(A_n)P(B|A_n)} \end{split}\end{equation} \]

贝叶斯准则将形如\(P(A|B)\)的条件概率与形如\(P(B|A)\)的条件概率联系起来。
另外，设事件\(A\)为“原因”，\(B\)为“结果”，则\(P(A|B)\)表示在“结果”出现的情况下“原因”的概率，因而被称为“后验概率”，而\(P(A)\)被称为“先验概率”。

例子：

设对于某种少见的疾病的检出率为0.95：如果一个被检的人有这种疾病，其检查结果为阳性的概率为0.95；如果该人没有这种疾病，其检查结果为阴性的概率是0.95。现假定某一人群中患有这种病的概率为0.001，并从这个总体中随机抽取一人进行检测，检查结果为阳性。现在问这个人患这种病的概率有多大？
记A为这个人有这种疾病，B为经检验这个人为阳性。利用贝叶斯准则，

\[\begin{equation}\begin{split} P(A|B)&=\frac{P(A)P(B|A)}{P(A)P(B|A)+P(A^c)P(B|A^c)}\\ \quad&=\frac{0.001*0.95}{0.001*0.95+0.999*0.05}\\ \quad&\approx0.0187 \end{split}\end{equation} \]

\(A^c\)表示\(A\)相对于样本空间的补集。
因此，尽管检验方法十分精确，但是一个检测为阳性的人仍然不大可能真正患病。

参考

• Dimitri.Bertsekas John N.Tsitsiklis. 概率导论(第2版)(图灵数学统计学丛书40)[M]. 人民邮电出版社, 2009.