PT@全概率公式和bayes贝叶斯公式@后验概率和信念度量
abstract
- 全概率公式和bayes公式及其应用
- 后验概率和信念度量
完备事件组(划分)
- 设有限集 I = { 1 , ⋯ , n } I=\{1,\cdots,n\} I={1,⋯,n};试验 E E E的样本空间为 Ω \Omega Ω
- 若
{
B
i
;
i
∈
I
}
\{B_i;i\in{I}\}
{Bi;i∈I}满足:
- ⋃ i = 1 n B i = Ω \bigcup_{i=1}^{n}B_i=\Omega ⋃i=1nBi=Ω
- B i B j = ∅ ; i ≠ j B_iB_j=\varnothing;i\neq j BiBj=∅;i=j
- 则称 { B i ; i ∈ I } \{B_i;i\in{I}\} {Bi;i∈I}为 Ω \Omega Ω的一个完备事件组,也称为划分
基本性质
- 完备事件组 { B i ; i ∈ I } \{B_i;i\in{I}\} {Bi;i∈I},试验的任意一个样本点(任意一次试验结果)都属于且仅属于某一个 B i B_i Bi
全概率公式
-
设试验E的样本空间为 S S S, A A A为 E E E的事件
-
{ B i ∣ i ∈ I } \set{B_i|i\in I} {Bi∣i∈I}是一个 S S S的划分, P ( B i ) > 0 , i ∈ I P(B_i)>0,i\in{I} P(Bi)>0,i∈I,则 P ( A ) = ∑ i = 1 n P ( A ∣ B i ) P ( B i ) P(A)=\sum_{i=1}^{n}P(A|B_i)P(B_i) P(A)=∑i=1nP(A∣Bi)P(Bi)
- 那么 P ( A ) = ∑ i ∈ I P ( A ∣ B i ) P ( B i ) P(A)=\sum\limits_{i\in I}P(A|B_i)P(B_i) P(A)=i∈I∑P(A∣Bi)P(Bi)
-
证明:
-
显然 A B i ⊂ B i AB_i\sub B_i ABi⊂Bi,又 B i B j = ∅ B_iB_j=\varnothing BiBj=∅,所以 ( A B i ) ( A B j ) = A ( B i B j ) = A ∅ = ∅ (AB_i)(AB_j)=A(B_iB_j)=A\emptyset=\emptyset (ABi)(ABj)=A(BiBj)=A∅=∅, ( i ≠ j ) (i\neq{j}) (i=j)
-
P ( A ∣ B i ) P ( B i ) = P ( A B i ) P(A|B_i)P(B_i)=P(AB_i) P(A∣Bi)P(Bi)=P(ABi)
-
证法1:
-
∑
i
∈
I
P
(
A
∣
B
i
)
P
(
B
i
)
=
∑
i
∈
I
P
(
A
B
i
)
\sum\limits_{i\in I}P(A|B_i)P(B_i)=\sum\limits_{i\in I}P(AB_i)
i∈I∑P(A∣Bi)P(Bi)=i∈I∑P(ABi)
- = P ( A B 1 ∪ A B 2 ∪ ⋯ ∪ A B n ) =P(AB_1\cup{AB_2}\cup\cdots\cup{A{B_n}}) =P(AB1∪AB2∪⋯∪ABn)
- = P ( A ∩ ( ⋃ i ∈ I B i ) ) =P\left(A\cap\left(\bigcup\limits_{i\in I}B_i\right)\right) =P(A∩(i∈I⋃Bi))
- = P ( A Ω ) =P(A\Omega) =P(AΩ)
- = P ( A ) =P(A) =P(A)
-
∑
i
∈
I
P
(
A
∣
B
i
)
P
(
B
i
)
=
∑
i
∈
I
P
(
A
B
i
)
\sum\limits_{i\in I}P(A|B_i)P(B_i)=\sum\limits_{i\in I}P(AB_i)
i∈I∑P(A∣Bi)P(Bi)=i∈I∑P(ABi)
-
证法2:
- A = A S = A ( B 1 ∪ ⋯ ∪ B n ) A=AS=A(B_1\cup\cdots\cup{B_n}) A=AS=A(B1∪⋯∪Bn)= A B 1 ∪ ⋯ ∪ A B n AB_1\cup\cdots\cup{A{B_n}} AB1∪⋯∪ABn
- P ( A ) P(A) P(A)= P ( A B 1 ∪ ⋯ ∪ A B n ) P(AB_1\cup\cdots\cup{A{B_n}}) P(AB1∪⋯∪ABn)= ∑ i = 1 n P ( A B i ) \sum_{i=1}^{n}P(AB_i) ∑i=1nP(ABi)= ∑ i ∈ I P ( A ∣ B i ) P ( B i ) \sum\limits_{i\in I}P(A|B_i)P(B_i) i∈I∑P(A∣Bi)P(Bi)
-
例
-
某个含有20个球的箱子
-
含有0,1,2只次品的概率分别为0.8,0.1,0.1
- 记:
A
i
A_i
Ai={箱子包含的残次品数量为
i
i
i个}
- P ( A 0 ) = 0.8 P(A_0)=0.8 P(A0)=0.8
- P ( A 1 ) = P ( A 2 ) = 0.1 P(A_1)=P(A_2)=0.1 P(A1)=P(A2)=0.1
- 记:
A
i
A_i
Ai={箱子包含的残次品数量为
i
i
i个}
-
记 B B B={抽中的4件产品都是正品}
-
-
那么发生事件 B B B的概率?
-
显然 A 0 , A 1 , A 2 A_0,A_1,A_2 A0,A1,A2构成试验E{观察箱子中的全部球的正品数,样本空间为{0,1,2}}的样本空间的一个划分
-
而事件 B B B进行的试验 F F F{观察取出的4个抽样品的正品数,样本空间为{0,1,2}}
-
容易根据古典概型公式计算(因为此时的样本空间已知)以下条件概率(这里不是用条件概率公式展开计算,这会绕回来)
-
P ( B ∣ A 0 ) = ( 20 4 ) ( 20 4 ) = 1 P(B|A_0)=\frac{\binom{20}{4}}{\binom{20}{4}}=1 P(B∣A0)=(420)(420)=1
-
P ( B ∣ A 1 ) = ( 19 4 ) ( 20 4 ) = ( 19 ∗ 18 ∗ 17 ∗ 16 ) ∗ ( 4 ∗ 3 ∗ 2 ∗ 1 ) ( 20 ∗ 19 ∗ 18 ∗ 17 ) ∗ ( 4 ∗ 3 ∗ 2 ∗ 1 ) = 4 5 P(B|A_1)=\frac{\binom{19}{4}}{\binom{20}{4}}=\frac{(19*18*17*16)*(4*3*2*1)}{(20*19*18*17)*(4*3*2*1)}=\frac{4}{5} P(B∣A1)=(420)(419)=(20∗19∗18∗17)∗(4∗3∗2∗1)(19∗18∗17∗16)∗(4∗3∗2∗1)=54
- 其中 Ω A 1 = Ω \Omega_{A_1}=\Omega ΩA1=Ω
-
P ( B ∣ A 2 ) = ( 18 4 ) ( 20 4 ) = 12 19 P(B|A_2)=\frac{\binom{18}{4}}{\binom{20}{4}}=\frac{12}{19} P(B∣A2)=(420)(418)=1912
-
-
根据全概率公式 P ( B ) = ∑ i = 1 3 P ( B ∣ A i ) P ( A i ) = 0.943 P(B)=\sum\limits_{i=1}^{3}P(B|A_i)P(A_i)=0.943 P(B)=i=1∑3P(B∣Ai)P(Ai)=0.943
-
Note:这里试验 F F F的样本空间恰好和E的样本空间重复,但如果箱子中的次品高达4个以上,那么 F F F的样本空间 0 , 1 , 2 , 3 , 4 {0,1,2,3,4} 0,1,2,3,4是包含于 E E E的样本空间的
-
贝叶斯公式
- bayes公式基于上述的全概率公式,是一个更加综合的公式,但是原理是简单的
- 设试验E的样本空间为 S S S, A A A为 E E E的事件
-
{
B
i
∣
i
∈
I
}
\set{B_i|i\in I}
{Bi∣i∈I}是一个
S
S
S的划分,
P
(
A
)
>
0
,
P
(
B
i
)
>
0
,
i
∈
I
P(A)>0,P(B_i)>0,i\in{I}
P(A)>0,P(Bi)>0,i∈I,则
- P ( B i ∣ A ) P(B_i|A) P(Bi∣A)= P ( A B i ) P ( A ) \frac{P(AB_i)}{P(A)} P(A)P(ABi)= P ( A ∣ B i ) P ( B i ) ∑ j = 1 n P ( A ∣ B j ) P ( B j ) \frac{P(A|B_i)P(B_i)}{\sum_{j=1}^{n}P(A|B_j)P(B_j)} ∑j=1nP(A∣Bj)P(Bj)P(A∣Bi)P(Bi); i = 1 , ⋯ , n i=1,\cdots,n i=1,⋯,n;此公式为bayes公式
- 证明:由条件概率,乘法定理,全概率公式,贝叶斯公式显然成立
- P ( B i ∣ A ) P(B_i|A) P(Bi∣A)= P ( A B i ) P ( A ) \frac{P(AB_i)}{P(A)} P(A)P(ABi)
-
P
(
A
B
i
)
P(AB_i)
P(ABi)=
P
(
A
∣
B
i
)
P
(
B
i
)
P(A|B_i)P(B_i)
P(A∣Bi)P(Bi)
- 注意在bayes公式中,我们要求的是 P ( B i ∣ A ) P(B_i|A) P(Bi∣A),因而 P ( A B i ) P(AB_i) P(ABi)= P ( B i ∣ A ) P ( A ) P(B_i|A)P(A) P(Bi∣A)P(A)就不合适,否则公式无法有效计算
- 而因该用 P ( A B i ) P(AB_i) P(ABi)= P ( A ∣ B i ) P ( B i ) P(A|B_i)P(B_i) P(A∣Bi)P(Bi)来算
- P ( A ) = ∑ i = 1 n P ( A ∣ B i ) P ( B i ) P(A)=\sum_{i=1}^{n}P(A|B_i)P(B_i) P(A)=∑i=1nP(A∣Bi)P(Bi)
例
-
次品来源问题:设一批零件来自三个供应商
-
供应商 次品率 进货份额 1 0.02 0.15 2 0.01 0.80 3 0.03 0.05
-
-
试验内容:从零件中抽取一件
- A={取到的产品是次品}
-
B
i
B_i
Bi={次品零件来自第
i
i
i个厂商}
- P ( B 1 ) P(B_1) P(B1)= 0.15 0.15 0.15; P ( A ∣ B 1 ) P(A|B_1) P(A∣B1)=0.02
- P ( B 2 ) P(B_2) P(B2)=0.80; P ( A ∣ B 2 ) P(A|B_2) P(A∣B2)=0.01
- P ( B 3 ) P(B_3) P(B3)=0.05; P ( A ∣ B 3 ) P(A|B_3) P(A∣B3)=0.03
-
求该样品是次品的概率:
- 由全概率公式: P ( A ) = ∑ i = 1 3 P ( A ∣ B i ) P ( B i ) P(A)=\sum\limits_{i=1}^{3}P(A|B_i)P(B_i) P(A)=i=1∑3P(A∣Bi)P(Bi)= 0.02 ∗ 0.15 + 0.01 ∗ 0.80 + 0.03 ∗ 0.05 = 0.0125 0.02*0.15+0.01*0.80+0.03*0.05=0.0125 0.02∗0.15+0.01∗0.80+0.03∗0.05=0.0125
-
从中取出一件,发现是次品,那么来自产商 i i i的概率是多少 ( i = 1 , 2 , 3 ) (i=1,2,3) (i=1,2,3)
- 由贝叶斯公式:
- P ( B i ∣ A ) = P ( B i A ) P ( A ) = P ( A ∣ B i ) P ( B i ) P ( A ) P(B_i|A)=\frac{P(B_iA)}{P(A)}=\frac{P(A|B_i)P(B_i)}{P(A)} P(Bi∣A)=P(A)P(BiA)=P(A)P(A∣Bi)P(Bi)
- 分别可以计算出:
- P ( B 1 ∣ A ) = 0.02 ∗ 0.15 0.0125 = 0.24 P(B_1|A)=\frac{0.02*0.15}{0.0125}=0.24 P(B1∣A)=0.01250.02∗0.15=0.24
- P ( B 2 ∣ A ) P(B_2|A) P(B2∣A)= 0.64 0.64 0.64
- P ( b 3 ∣ A ) P(b_3|A) P(b3∣A)= 0.12 0.12 0.12
- 由贝叶斯公式:
对立事件下的常用形式
- 全概率公式和beyes公式在 n = 2 n=2 n=2的时候(事件 B , B ‾ B,\overline{B} B,B构成样本空间的一个划分)最常用
- 此时分别有:
- P ( A ) = P ( A B ) + P ( A B ‾ ) P(A)=P(AB)+P(A\overline{B}) P(A)=P(AB)+P(AB)= P ( A ∣ B ) P ( B ) + P ( A ∣ B ‾ ) P ( B ‾ ) P(A|B)P(B)+P(A|\overline{B})P(\overline{B}) P(A∣B)P(B)+P(A∣B)P(B)
- P ( B ∣ A ) = P ( A B ) P ( A ) P(B|A)=\frac{P(AB)}{P(A)} P(B∣A)=P(A)P(AB)= P ( A ∣ B ) P ( B ) P ( A ∣ B ) P ( B ) + P ( A ∣ B ‾ ) P ( B ‾ ) \frac{P(A|B)P(B)}{P(A|B)P(B)+P(A|\overline{B})P(\overline{B})} P(A∣B)P(B)+P(A∣B)P(B)P(A∣B)P(B)
例
- 设第1个盒子中有2个红球和1个白球;第2个盒子有红球白球各一半
- 若先从两个盒子各取出一个凑成一对,然后再从这两个球中选一个,
- 事件 C C C:得到红球的概率?
- 发生事件 C C C的条件下,事件 D D D:这个红球来自第1个盒子的概率?
- 解
- (1)
- 方法1:
- 令 A i A_i Ai:{最终选出的球来自第 i i i各盒子}, i = 1 , 2 i=1,2 i=1,2
- 由全概率公式可知 P ( C ) = ∑ i = 1 2 P ( C ∣ A i ) P ( A i ) P(C)=\sum_{i=1}^{2}P(C|A_i)P(A_i) P(C)=∑i=12P(C∣Ai)P(Ai)= 2 3 × 1 2 + 1 2 × 1 2 \frac{2}{3}\times{\frac{1}{2}}+\frac{1}{2}\times{\frac{1}{2}} 32×21+21×21= 7 12 \frac{7}{12} 127
- 方法2:
- 令 A i A_i Ai:{从第 i i i个盒子中摸出的红球}, i = 1 , 2 i=1,2 i=1,2
- 令
B
1
=
A
1
A
2
B_1=A_1A_2
B1=A1A2;
B
2
=
A
1
‾
A
2
B_2=\overline{A_1}A_2
B2=A1A2;
B
3
=
A
1
A
2
‾
B_3=A_1\overline{A_2}
B3=A1A2;
B
4
=
A
1
‾
A
2
‾
B_4=\overline{A_1}\;\overline{A_2}
B4=A1A2
- P ( B 1 ) = P ( A 1 ) P ( A 2 ) = 2 3 × 1 2 P(B_1)=P(A_1)P(A_2)=\frac{2}{3}\times{\frac{1}{2}} P(B1)=P(A1)P(A2)=32×21= 1 3 \frac{1}{3} 31
- 类似的, P ( B 2 ) P(B_2) P(B2)= 1 3 × 1 2 \frac{1}{3}\times{\frac{1}{2}} 31×21= 1 6 \frac{1}{6} 61; P ( B 3 ) P(B_3) P(B3)= 2 3 × 1 2 \frac{2}{3}\times{\frac{1}{2}} 32×21= 1 3 \frac{1}{3} 31; P ( B 4 ) = 1 3 × 1 2 P(B_4)=\frac{1}{3}\times{\frac{1}{2}} P(B4)=31×21= 1 6 \frac{1}{6} 61
- 由全概率公式: P ( C ) P(C) P(C)= ∑ i = 1 4 P ( C ∣ B i ) P ( B i ) \sum_{i=1}^{4}P(C|B_i)P(B_i) ∑i=14P(C∣Bi)P(Bi)= 1 × 1 3 + 1 2 × 1 6 + 1 2 × 1 3 + 0 × 1 6 1\times{\frac{1}{3}}+\frac{1}{2}\times{\frac{1}{6}}+\frac{1}{2}\times{\frac{1}{3}}+0\times\frac{1}{6} 1×31+21×61+21×31+0×61= 7 12 \frac{7}{12} 127
- 方法1:
- (2)
- 令 A i A_i Ai:{从第 i i i个盒子中摸出的红球}, i = 1 , 2 i=1,2 i=1,2
- 方法1:
-
P
(
A
1
∣
C
)
P(A_1|C)
P(A1∣C)=
P
(
C
∣
A
1
)
P
(
A
1
)
P
(
C
)
\frac{P(C|A_1)P(A_1)}{P(C)}
P(C)P(C∣A1)P(A1)
- P ( C ∣ A 1 ) P(C|A_1) P(C∣A1)= P ( C ∣ A 1 A 2 ) P ( A 1 A 2 ) + P ( C ∣ A 1 A 2 ‾ ) P ( A 1 A ‾ ) P(C|A_1A_2)P(A_1A_2)+P(C|A_1\overline{A_2})P(A_1\overline{A}) P(C∣A1A2)P(A1A2)+P(C∣A1A2)P(A1A)= 1 × 1 2 + 1 2 × 1 2 1\times{\frac{1}{2}}+\frac{1}{2}\times{\frac{1}{2}} 1×21+21×21= 3 4 \frac{3}{4} 43
- P ( A 1 ∣ C ) P(A_1|C) P(A1∣C)= 3 4 × 2 3 7 / 12 \frac{\frac{3}{4}\times{\frac{2}{3}}}{7/12} 7/1243×32= 6 7 \frac{6}{7} 76
-
P
(
A
1
∣
C
)
P(A_1|C)
P(A1∣C)=
P
(
C
∣
A
1
)
P
(
A
1
)
P
(
C
)
\frac{P(C|A_1)P(A_1)}{P(C)}
P(C)P(C∣A1)P(A1)
- 方法2:
- A 1 = A 1 A 2 + A 1 A 2 ‾ A_1=A_1A_2+A_1\overline{A_2} A1=A1A2+A1A2
-
P
(
A
1
∣
C
)
P(A_1|C)
P(A1∣C)=
P
(
[
A
1
A
2
+
A
1
A
2
‾
]
∣
C
)
P([A_1A_2+A_1\overline{A_2}]|C)
P([A1A2+A1A2]∣C)=
P
(
A
1
A
2
∣
C
)
P
(
A
1
A
2
‾
∣
C
)
P(A_1A_2|C)P(A_1\overline{A_2}|C)
P(A1A2∣C)P(A1A2∣C)=
P
(
A
1
A
2
C
)
/
P
(
B
)
+
P
(
A
1
A
2
‾
C
)
/
P
(
B
)
P(A_1A_2C)/P(B)+P(A_1\overline{A_2}C)/P(B)
P(A1A2C)/P(B)+P(A1A2C)/P(B)
- = P ( C ∣ A 1 A 2 ) P ( A 1 A 2 ) / P ( B ) P(C|A_1A_2)P(A_1A_2)/P(B) P(C∣A1A2)P(A1A2)/P(B)+ P ( C ∣ A 1 A 2 ‾ ) P ( A 1 A 2 ‾ ) / P ( B ) P(C|A_1\overline{A_2})P(A_1\overline{A_2})/P(B) P(C∣A1A2)P(A1A2)/P(B)
- = 6 7 \frac{6}{7} 76
例
- 有两个箱子,第一个箱子有 n n n件一等品,第二个箱子有 m m m件产品且仅含1件一等品
- 从两个箱子中选出一个,再从该箱子先后地取出一个产品
- 第一次取出零件是一等品的概率?第2次取出的是一等品的概率?
- 若已知第一件取出的是一等品,则第二件仍然是一等品的概率?
- (1)
- 令 A i A_i Ai:选中的箱子是第 i i i个箱子(或者 A A A:选中的是第1个箱子, A ‾ \overline{A} A:选中的是第2个箱子)
- 令
B
i
B_i
Bi:第
i
i
i次取出的是一等品,
i
=
1
,
2
i=1,2
i=1,2
- P ( B 1 ) P(B_1) P(B1)= 1 2 × 1 + 1 2 × 1 m \frac{1}{2}\times{1}+\frac{1}{2}\times{\frac{1}{m}} 21×1+21×m1= m + 1 2 m \frac{m+1}{2m} 2mm+1
-
P
(
B
2
)
P(B_2)
P(B2)=
P
(
B
2
∣
A
1
)
P
(
A
1
)
+
P
(
B
2
∣
A
2
)
P
(
A
2
)
P(B_2|A_1)P(A_1)+P(B_2|A_2)P(A_2)
P(B2∣A1)P(A1)+P(B2∣A2)P(A2)
- = P ( B 2 ∣ A 1 B 1 ) P ( A 1 B 1 ) + P ( B 2 ∣ A 1 B 1 ‾ ) P ( A 1 B 1 ‾ ) P(B_2|A_1B_1)P(A_1B_1)+P(B_2|A_1\overline{B_1})P(A_1\overline{B_1}) P(B2∣A1B1)P(A1B1)+P(B2∣A1B1)P(A1B1)+ P ( B 2 ∣ A 2 B 1 ) P ( A 2 B 1 ) + P ( B 2 ∣ A 2 B 1 ‾ ) P ( A 2 B 1 ‾ ) P(B_2|A_2B_1)P(A_2B_1)+P(B_2|A_2\overline{B_1})P(A_2\overline{B_1}) P(B2∣A2B1)P(A2B1)+P(B2∣A2B1)P(A2B1)
- P ( B 2 ∣ A 1 ) P ( A 1 ) P(B_2|A_1)P(A_1) P(B2∣A1)P(A1)= 1 × 1 2 1\times{\frac{1}{2}} 1×21
- P ( B 2 ∣ A 2 ) P ( A 2 ) P(B_2|A_2)P(A_2) P(B2∣A2)P(A2)= P ( B 2 ∣ A 2 B 1 ) P ( A 2 B 1 ) + P ( B 2 ∣ A 2 B 1 ‾ ) P ( A 2 B 1 ‾ ) P(B_2|A_2B_1)P(A_2B_1)+P(B_2|A_2\overline{B_1})P(A_2\overline{B_1}) P(B2∣A2B1)P(A2B1)+P(B2∣A2B1)P(A2B1)= 0 + P ( B 2 ∣ A 2 B 1 ‾ ) P ( B 1 ‾ ∣ A 2 ) P ( A 2 ) 0+P(B_2|A_2\overline{B_1})P(\overline{B_1}|A_2)P(A_2) 0+P(B2∣A2B1)P(B1∣A2)P(A2)= 1 2 m \frac{1}{2m} 2m1
- P ( B 2 ) P(B_2) P(B2)= 1 2 + 1 2 m \frac{1}{2}+\frac{1}{2m} 21+2m1= 1 + m 2 m \frac{1+m}{2m} 2m1+m
- 事实上,如果选中的箱子是第一个箱子,那么两次取球都必能取出一等品;若选中的箱子是第2个箱子,由抽签概型,第一次抽中一等品和第二次抽中一等品的概率都是 1 m \frac{1}{m} m1,从而第1次和第2次抽中一等品总是相等的
- (2)
- 方法1:
-
P
(
B
2
∣
B
1
)
P(B_2|B_1)
P(B2∣B1)=
P
(
B
1
∣
B
2
)
P
(
B
2
)
P
(
B
1
)
\frac{P(B_1|B_2)P(B_2)}{P(B_1)}
P(B1)P(B1∣B2)P(B2)
- P ( B 1 ∣ B 2 ) P(B_1|B_2) P(B1∣B2)= P ( B 1 ∣ A 1 B 2 ) P ( A 1 B 2 ) P(B_1|A_1B_2)P(A_1B_2) P(B1∣A1B2)P(A1B2)+ P ( B 1 ∣ A 2 B 2 ) P ( A 2 B 2 ) P(B_1|A_2B_2)P(A_2B_2) P(B1∣A2B2)P(A2B2)= P ( B 1 ∣ A 1 B 2 ) P ( B 2 ∣ A 1 ) P ( A 1 ) P(B_1|A_1B_2)P(B_2|A_1)P(A_1) P(B1∣A1B2)P(B2∣A1)P(A1)+ P ( B 1 ∣ A 2 B 2 ) P ( B 2 ∣ A 2 ) P ( B 2 ) P(B_1|A_2B_2)P(B_2|A_2)P(B_2) P(B1∣A2B2)P(B2∣A2)P(B2)= 1 × 1 × 1 2 + 0 1\times1\times{\frac{1}{2}}+0 1×1×21+0= 1 2 \frac{1}{2} 21
- P ( B 2 ∣ B 1 ) = 1 2 P(B_2|B_1)=\frac{1}{2} P(B2∣B1)=21
- 这个方法采用的是bayes公式直接计算,但是会发现计算分子的两个概率不是太直接
- bayes公式是解决这类我问题的一个模型但是不一定是最简便的,构造更恰当的样本空间和事件可能将求解过程变得简洁
-
P
(
B
2
∣
B
1
)
P(B_2|B_1)
P(B2∣B1)=
P
(
B
1
∣
B
2
)
P
(
B
2
)
P
(
B
1
)
\frac{P(B_1|B_2)P(B_2)}{P(B_1)}
P(B1)P(B1∣B2)P(B2)
- 方法2:
- 令事件 D D D:发生 B 1 B_1 B1的条件下发生 B 2 B_2 B2
- 那么由全概率公式: P ( D ) P(D) P(D)= P ( D ∣ A 1 ) P ( A 1 ) + P ( D ∣ A 2 ) P ( A 2 ) P(D|A_1)P(A_1)+P(D|A_2)P(A_2) P(D∣A1)P(A1)+P(D∣A2)P(A2)= 1 × 1 2 + 0 × 1 2 1\times{\frac{1}{2}}+0\times{\frac{1}{2}} 1×21+0×21= 1 2 \frac{1}{2} 21
- 也就是说,事件 D D D的发生取决于 A 1 A_1 A1还是 A 2 A_2 A2发生, A 1 A_1 A1发生则 D D D必然发生,否则 D D D必然不发生,这 m , n m,n m,n都没有关系
- 可见方法2简单直接得多
- 错误解法:
-
P
(
B
2
∣
B
1
)
P(B_2|B_1)
P(B2∣B1)=
P
(
B
1
B
2
)
P
(
B
1
)
\frac{P(B_1B_2)}{P(B_1)}
P(B1)P(B1B2)
- = P ( B 1 B 2 ∣ A 1 ) P ( A 1 ) + P ( B 1 B 2 ∣ A 2 ) P ( A 2 ) P ( B 1 ) \frac{P(B_1B_2|A_1)P(A_1)+P(B_1B_2|A_2)P(A_2)}{P(B_1)} P(B1)P(B1B2∣A1)P(A1)+P(B1B2∣A2)P(A2)= m m + 1 \frac{m}{m+1} m+1m
- 这个结果是一个关于 m m m的式子,当 m m m很大时, P ( B 2 ∣ B 1 ) P(B_2|B_1) P(B2∣B1)几乎一定会发生,这显然是错误的
-
P
(
B
2
∣
B
1
)
P(B_2|B_1)
P(B2∣B1)=
P
(
B
1
B
2
)
P
(
B
1
)
\frac{P(B_1B_2)}{P(B_1)}
P(B1)P(B1B2)
- 样本空间分析:
- S={
(
a
1
,
a
2
)
,
⋯
,
(
a
1
,
a
n
)
,
⋯
,
(
a
n
−
1
a
n
)
(a_1,a_2),\cdots,(a_1,a_n),\cdots,(a_{n-1}a_{n})
(a1,a2),⋯,(a1,an),⋯,(an−1an),
(
b
1
,
b
2
)
,
⋯
,
(
b
1
,
b
m
)
,
⋯
,
(
b
m
−
1
b
m
)
(b_1,b_2),\cdots,(b_1,b_m),\cdots,(b_{m-1}b_{m})
(b1,b2),⋯,(b1,bm),⋯,(bm−1bm)}
- 其中 a i , i = 1 , ⋯ , n a_i,i=1,\cdots,n ai,i=1,⋯,n表示第一个箱子中的零件; b j , j = 1 , ⋯ , m b_j,j=1,\cdots,m bj,j=1,⋯,m表示第二个箱子中的零件
- ( a i 1 , a i 2 ) , i 1 , i 2 = 1 , ⋯ , n (a_{i_1},a_{i_2}),i_1,i_2=1,\cdots,n (ai1,ai2),i1,i2=1,⋯,n共有 A n 2 A_n^2 An2个样本点; ( b i 1 , b i 2 ) , i 1 , i 2 = 1 , ⋯ , m (b_{i_1},b_{i_2}),i_1,i_2=1,\cdots,m (bi1,bi2),i1,i2=1,⋯,m共有 A m 2 A_m^2 Am2个样本点;
- 这两类样本点不是等概率发生的,但是同类样本点之间是等概率率发生的,分别是 1 2 × 1 A n 2 \frac{1}{2}\times\frac{1}{A_n^2} 21×An21; 1 2 × 1 A m 2 \frac{1}{2}\times{\frac{1}{A_m^2}} 21×Am21
- 不过对于本题这些不重要
- 令事件 D 1 D_1 D1: B 1 , B 2 B_1,B_2 B1,B2都发生了,由样本空间可知, D = D 1 = B 1 B 2 D=D_1=B_1B_2 D=D1=B1B2,所以 P ( D ) P(D) P(D)= P ( D 1 ) P(D_1) P(D1)= 1 2 \frac{1}{2} 21
- S={
(
a
1
,
a
2
)
,
⋯
,
(
a
1
,
a
n
)
,
⋯
,
(
a
n
−
1
a
n
)
(a_1,a_2),\cdots,(a_1,a_n),\cdots,(a_{n-1}a_{n})
(a1,a2),⋯,(a1,an),⋯,(an−1an),
(
b
1
,
b
2
)
,
⋯
,
(
b
1
,
b
m
)
,
⋯
,
(
b
m
−
1
b
m
)
(b_1,b_2),\cdots,(b_1,b_m),\cdots,(b_{m-1}b_{m})
(b1,b2),⋯,(b1,bm),⋯,(bm−1bm)}
- 方法1:
- Note:若第2个箱子中的
m
m
m个样品包含
k
k
k个一等品,则事件
D
D
D的概率?
- P ( D ) = P ( D ∣ A 1 ) P ( A 1 ) + P ( D ∣ A 2 ) P ( A 2 ) P(D)=P(D|A_1)P(A_1)+P(D|A_2)P(A_2) P(D)=P(D∣A1)P(A1)+P(D∣A2)P(A2)= 1 × 1 2 + k − 1 m − 1 × 1 2 1\times{\frac{1}{2}}+\frac{k-1}{m-1}\times\frac{1}{2} 1×21+m−1k−1×21= m + k − 2 2 ( m − 1 ) \frac{m+k-2}{2(m-1)} 2(m−1)m+k−2
例
- 设3个地区各由10,15,25名考生报名表,其中女生的报名表分别是 3 , 7 , 5 3,7,5 3,7,5份
- 现随机抽取一个地区,然后从该地区的报名表中先后取出2份
- 第一份是女生表明表的概率?
- 已知第2份是男生表,第1分时女生表的概率?
- 令 A i A_i Ai:选中的地区时 i i i区, i = 1 , 2 , 3 i=1,2,3 i=1,2,3; B j B_j Bj:第 j j j份报名表是女生表, j = 1 , 2 j=1,2 j=1,2
- 显然
P
(
A
1
)
=
P
(
A
2
)
=
P
(
A
3
)
=
1
3
P(A_1)=P(A_2)=P(A_3)=\frac{1}{3}
P(A1)=P(A2)=P(A3)=31
- P ( B 1 ∣ A 1 ) = 3 10 P(B_1|A_1)=\frac{3}{10} P(B1∣A1)=103; P ( B 1 ∣ A 2 ) = 7 15 P(B_1|A_2)=\frac{7}{15} P(B1∣A2)=157; P ( B 1 ∣ A 3 ) = 5 25 P(B_1|A_3)=\frac{5}{25} P(B1∣A3)=255
- (1):由全概率公式: P ( B 1 ) P(B_1) P(B1)= ∑ i = 1 3 P ( B 1 ∣ A i ) P ( A i ) \sum_{i=1}^{3}P(B_1|A_i)P(A_i) ∑i=13P(B1∣Ai)P(Ai)= 29 90 \frac{29}{90} 9029
- (2):令
D
D
D:
B
2
B_2
B2发生时
B
1
B_1
B1发生
- P ( D ) = ∑ i = 1 3 P ( D ∣ A i ) P ( A i ) P(D)=\sum_{i=1}^{3}P(D|A_i)P(A_i) P(D)=∑i=13P(D∣Ai)P(Ai)= 3 9 × 1 3 + 3 9 × 7 14 \frac{3}{9}\times{\frac{1}{3}}+\frac{3}{9}\times{\frac{7}{14}} 93×31+93×147+ 3 9 × 5 24 \frac{3}{9}\times{\frac{5}{24}} 93×245= 25 72 \frac{25}{72} 7225
- 方法2: P ( D ) P(D) P(D)= ∑ i = 1 3 P ( B 1 ∣ A i ) P ( A i ) \sum_{i=1}^{3}P(B_1|A_i)P(A_i) ∑i=13P(B1∣Ai)P(Ai)= 25 72 \frac{25}{72} 7225
先验概率和后验概率
例
-
机器与产品合格率问题
-
设机器正常时,生产的产品合格率为0.9,否则合格率为0.3
-
如果机器开机后,正常的概率是0.75(先验概率)
-
某天该机器第一件产品是合格的,机器正常的概率是多少?
-
分析:
- A={第一件产品合格}
- B={机器正常}
- 所求概率表达式为: P ( B ∣ A ) = ? P(B|A)=? P(B∣A)=?
-
根据假设可知:
- P ( A ∣ B ) = 0.9 ; P ( A ∣ B ‾ ) = 0.3 P(A|B)=0.9;P(A|\overline{B})=0.3 P(A∣B)=0.9;P(A∣B)=0.3
-
P
(
B
)
=
0.75
,
P
(
B
‾
)
=
0.25
P(B)=0.75,P(\overline{B})=0.25
P(B)=0.75,P(B)=0.25
- B , B ‾ B,\overline{B} B,B构成了样本空间的一个划分(即机器要么正常,要么不正常)
- 由全概率公式 P ( A ) = P ( A ∣ B ) P ( B ) + P ( A ∣ B ‾ ) P ( B ‾ ) P(A)={P(A|B)P(B)+P(A|\overline{B})P(\overline{B})} P(A)=P(A∣B)P(B)+P(A∣B)P(B)= 0.9 ∗ 0.75 + 0.3 ∗ 0.25 = 0.75 0.9*0.75+0.3*0.25=0.75 0.9∗0.75+0.3∗0.25=0.75
- 那么根据Bayes公式, P ( B ∣ A ) = P ( A ∣ B ) P ( B ) P ( A ) P(B|A)=\frac{P(A|B)P(B)}{P(A)} P(B∣A)=P(A)P(A∣B)P(B)= 0.9 ∗ 0.75 0.75 = 0.9 \frac{0.9*0.75}{0.75}=0.9 0.750.9∗0.75=0.9,
- 即第一件产品合格的条件下,机器正常的后验概率概率为0.9
-
后验概率是对先验概率的一种修正
-
后验概率和先验概率的解释分为两派
- 客观派:所有第一件产品是合格的日子里,100天内平均由90天机器是正常的
- 主观派:反映的是试验前后人们主观上对机器状态的不同信念
概率作为衡量人们对客观事件的信念度量
- 以伊索寓言狼来了为例
- A A A={孩子说谎}; B B B={孩子可信},假设一个可信的孩子**相对不容易说谎,**不妨设这个概率为0.1,即 P ( A ∣ B ) P(A|B) P(A∣B)=0.1;反之,一个不可信的孩子说谎话的概率为0.5,即 P ( A ∣ B ‾ ) = 0.5 P(A|\overline{B})=0.5 P(A∣B)=0.5
- 设村民遇到一个可信的孩子的概率为0.8,即 P ( B ) P(B) P(B)=0.8
- 那么孩子说慌话的概率为 P ( A ) P(A) P(A)= P ( A ∣ B ) P ( B ) + P ( A ∣ B ‾ ) P ( B ‾ ) P(A|B)P(B)+P(A|\overline{B})P(\overline{B}) P(A∣B)P(B)+P(A∣B)P(B)= 0.1 × 0.8 + 0.5 × 0.2 0.1\times{0.8}+0.5\times{0.2} 0.1×0.8+0.5×0.2=0.18
- 现在假设孩子说了谎话一次后,由bayes公式计算这个孩子是可信的概率
- P ( B ∣ A ) P(B|A) P(B∣A)= P ( B A ) P ( A ) \frac{P(BA)}{P(A)} P(A)P(BA)= P ( A ∣ B ) P ( B ) P ( A ∣ B ) P ( B ) + P ( A ∣ B ‾ ) P ( B ‾ ) \frac{P(A|B)P(B)}{P(A|B)P(B)+P(A|\overline{B})P(\overline{B})} P(A∣B)P(B)+P(A∣B)P(B)P(A∣B)P(B)= 0.1 × 0.8 0.18 \frac{0.1\times{0.8}}{0.18} 0.180.1×0.8= 4 9 ≈ 0.444 \frac{4}{9}\approx{0.444} 94≈0.444
- 即孩子可信的后验概率降低到了0.444
- 如果孩子再次撒谎,令
P
(
B
)
=
0.444
P(B)=0.444
P(B)=0.444按照上述方式再次计算后验概率:
- P ( B ∣ A ) P(B|A) P(B∣A)= 0.444 × 0.1 0.444 × 0.1 + 0.566 × 0.5 \frac{0.444\times{0.1}}{0.444\times{0.1}+0.566\times{0.5}} 0.444×0.1+0.566×0.50.444×0.1= 0.138 0.138 0.138
- 可见,孩子撒了两次慌后,其可信的后验概率已经降低到了0.138,给人的感觉几乎是一个不可信的人
【推荐】国内首个AI IDE，深度理解中文开发场景，立即下载体验Trae
【推荐】编程新体验，更懂你的AI，立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包，你的智能百科全书，全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell：AI 加持，快人一步
· 分享4款.NET开源、免费、实用的商城系统
· 全程不用写代码，我用AI程序员写了一个飞机大战
· MongoDB 8.0这个新功能碉堡了，比商业数据库还牛
· 记一次.NET内存居高不下排查解决与启示
· 白话解读 Dapr 1.15：你的「微服务管家」又秀新绝活了
2021-09-21 android@解bl锁@第三方Rec刷入OrangeFox@twrp的刷入和使用问题