如何理解贝叶斯定理
坑
网上所有的教程都在讲,贝叶斯定理的基本思想。
但是没有讲贝叶斯定理 跟 我心中样本X之间的联系。
我知道
后验概率 = 先验概率 * 调整因子。
每当来了一个样本,我就调整一下后验概率。
-------------------------
贝叶斯定理给出了后验概率的计算方法,后验概率等于先验概率乘上一个调整因子。
如何将该框架应用到分类中呢?
来了一个新样本,如何给出该样本属于正样本的概率。即p(c|x),这是一个后验概率;
p(c|x) = p(c)*p(x|c)/(p(x))
此时,我们根据样本数据集X,统计出p(c)和p(x|c)即可。
但是由于x样本的维数很高,p(x|c)是个麻烦。所以通过近似的方式可以假设样本的属性具有独立性,即各个维度之间没啥关系。只需要统计各个维度上的样本出现的频率,然后连乘即可。