3.贝叶斯网络表示（The Bayesian Network Representation）

对于一个n随机变量的联合分布，一般需要2**n-1个参数来表示这个分布。但是，我们可以通过随机变量之间的独立性，减少参数的个数。

 

naive Beyes model:

 

Bayesian Networks: 有向无环图（directed acyclic graph, DAG） 

 

I-MAP:就是一个图G的独立性关系构成的集合是一个概率分布的独立性关系构成集合的子集。就是说这个图G在某种程度上可以等价于这个分布，但是这个图G上的边可能有冗余。

 

I-MAP to Factorization: 一个满足I-MAP的图G和P，那么这个P可以按照G上的local independence进行依赖分解。

 

Factorization to I-MAP: 如果P可以按照图G上的节点进行local independence分解，那么图G就是P的一个I-MAP