《机器学习(周志华)》笔记--贝叶斯分类器(3)--贝叶斯网:贝叶斯网定义、贝叶斯网三种基本连接方式(同父结构、V型结构、顺序结构)、道德图、贝叶斯网络推理
三、贝叶斯网
1、贝叶斯网定义
贝叶斯网也称信念网,借助有向无环图(DAG)来刻画属性之间的依赖关系,使用条件概率表(CPT)来描述属性的联合概率分布。
贝叶斯网有效地表达了属性间地条件独立性。
举例:
给定父结点集,贝叶斯网假设每个属性与其非后裔属性独立,则属性间的联合概率分布定义为:
2、贝叶斯网三种基本连接方式
3、道德图
为了分析变量之间的条件独立性,采用有向分离的方法,将一个有向图变为无向图,这个图称为道德图。
道德图是先找到结构中的V型结构,并在V型结构中的父节点上加上一条无向边,把结构中的所有有向边变为无向边,便形成了道德图,令父节点相连的过程称为“道德化”。
基于道德图能够迅速找到变量间的条件独立性,假定道德图中有变量x,y和变量集z={zi},若变量x和y能在图上被z分开,从道德图中将变量集合z去除后,x和y分别属于两个连通分支,即由z分成两个图,则称x和y被z有向分离,x ⊥ y|z成立.
4、贝叶斯网络推理
举例:
教授家装了一个报警器,当有窃贼进入或地震发生会触发报警器,这时邻居约翰和玛丽会打电话。
(1)计算报警器响了,但既没有窃贼进入,又没有地震发生,约翰和玛丽同时打电话的概率。
(2)计算在约翰和玛丽同时打电话情况下,出现窃贼的概率时多少?
解:
(1)
(2)