最小错误率的贝叶斯决策和最小风险贝叶斯决策的关系？

 

1.基于最小错误率的贝叶斯决策

共w₁~w_n种决策

本质上就是最大后验概率P(w_i | X)的贝叶斯决策

公式一：P(w_i | X) = P(X | w_i)*P(w_i) / ∑ⁿ_j=1 P(X | w_j)*P(w_j)     

i=1...n，j=1...n

 

2.最小风险的贝叶斯决策

共a₁~a_a种条件风险

对于决策a_i可以在c个风险λ(a_i,w_j)中任选一个，相应的概率是 P(w_j | X) 

本质上就是最小条件风险R(a_i | X)的决策，也就是条件期望损失最小的决策

公式二：R(a_i | X) = E[ λ(a_i,w_j) ] =   ∑^c_j=1 λ(a_i,w_j) _{* P(wj | X)}  =  ∑^c_j=1 λ_{ij * P(wj | X)} 

i=1...a， j=1...c

 

3.二者关系（证明）

其实根据公式二，可以看出基于最小风险的贝叶斯决策本质就是最小错误率的决策的加权和，当在0-1损失函数的情况下，即λ_ii=0，λ_ij=1时，基于最小风险的决策与最小错误率的决策结果相同。可以把基于最小错误率的决策看成是基于最小风险的决策的一个特例。由于损失函数的调整会造成不同的分类结果，当两类错误决策所造成的错误相差悬殊时，损失就会起到主导作用，形成基于最小风险的决策。

 

ps:

0-1损失函数：错了损失为1，不错损失为0，即λ_ii=0，λ_ij=1。

例子：

 

 

 课件：

 

 

 

参考：

https://wenku.baidu.com/view/d7fbbf08581b6bd97f19ea16.html

https://wenku.baidu.com/view/16b5a88953d380eb6294dd88d0d233d4b04e3f2a.html

https://www.docin.com/p-1671295744.html