第三章 完整数据集下有向概率图模型的学习

 

 

 

概率图模型建模分为三种：专家建模，数据建模，知识库建模。

 

结构学习：

（1）基于评分搜索的结构学习：

a.评分函数

所谓超参数，就是机器学习模型里面的框架参数，比如聚类方法里面类的个数，或者话题模型里面话题的个数等等，都称为超参数。它们跟训练过程中学习的参数（权重）是不一样的，通常是手工设定，不断试错调整，或者对一系列穷举出来的参数组合一通枚举。

 

 

 

b.搜索算法

 

（2）基于条件独立性测试的结构学习：

 

 

参数学习：

主要是极大似然估计和贝叶斯参数估计。

极大似然估计：

贝叶斯参数估计：

无偏估计：就是你进行采样估计一个参数，这个估计值多半不等于真实值，但是这个估计值的期望是真实值，这就是无偏估计。