【读书笔记】贝叶斯原理

除了逻辑学中正误确定的论断，还应考虑有不确定可信度的论断。类似于 $B\rightarrow A$ 的逻辑推断，当我们得到新信息时，相关论断的可信度也应发生变化。比如，对于 $B\rightarrow A$ ，当 $B$ 的可信度提高时， $A$ 也应该提高（条件概率）；当 $A$ 的可信度提高时，有时 $B$ 也会提高（贝叶斯方法）
推导出唯一概率系统的考克斯公理
概率论是常识推断的定量表述

类比逻辑论断 $B\rightarrow A$ ，先验概率 $P(B)$ 为假设 $B$ 成立的概率，条件概率 $P(A|B)$ 为推断“ $\rightarrow$ ”成立的概率，联合概率 $P(\mathbf{A}, \mathbf{B})$ 为两个假设同时成立的概率
条件概率的计算式来源
- 根据第三条公理可知，联合事件发生的概率是由单一事件概率与条件概率决定的
- 直观上来看， $P(A|B)$ 与 $P(B)$ 越大，联合事件发生的概率越大
- 乘法能保证概率值始终在 $[0,1]$ 区间
- 因此有 $P(\mathbf{A}, \mathbf{B})=P(\mathbf{A} \mid \mathbf{B}) P(\mathbf{B})$

核心：利用变量间的相关性，用新得到的可观测变量的信息来更新对不可观测变量的估计
- 当某一观测变量发生后，另一不可观测量的发生概率如何发生改变
- 更新前的估计就是先验概率
举例

	不可观测量 $A$	可观测量 $B$	正向概率 $P(B\mid A)$	逆向概率 $P(A\mid B)$
发动机	发动机是不是坏了	声音不对	坏了过后的声音是不是这个声音？	听到这个声音，发动机是不是坏了？
抽球	盒子中不同颜色小球的比例	摸出小球的颜色	摸出小球可能是什么颜色？	盒中小球的颜色比例？
女神	女神是否喜欢你	女神对你笑	女神喜欢你的话，对你笑的概率有大？	女神如果对你笑了，喜欢你吗？

公式： $P(A \mid B)= \frac{P(B \mid A)P(A)}{P(B)}$

可以理解为 $P(A,B) = P(A \mid B)P(B)=P(A)P(B \mid A)$ ，同一相关关系的不同描述角度
求解：

以女神为例，要计算 $P(A \mid B)$ ，带入公式计算其余各项即可
- $P(A)$ ：女神之前就喜欢你吗？如果是路人，还是设置为50%的概率吧
- $P(B|A)$ ：喜欢一个人大概率会笑吧，可以设置为60%
- $P(B)$ ：女神平时傻笑吗？高冷的话可以设置为40%
计算后可得，喜欢你的先验概率提升为75%了！感谢贝叶斯！