机器学习&数据挖掘笔记_25（PGM练习九：HMM用于分类）
摘要：前言： 本次实验是用EM来学习HMM中的参数，并用学好了的HMM对一些kinect数据进行动作分类。实验内容请参考coursera课程：Probabilistic Graphical Models 中的的最后一个assignmnet.实验用的是kinect关节点数据，由于HMM是一个时序模型，且含有隐变量，所以这个实验不是很好做。大家对HMM不熟悉的话可以参考网友的实验:code. kinect人体关节数据中， 每个关节点由3个坐标数据构成，多个关节点数据(实验中为10个)构成一个pose,多个pose构成一个action，每个action所包含的pose个数可能不等。其示意图如下： ...
阅读全文
posted @
2014-01-13 20:35
tornadomeet
阅读(19175)
推荐(3) 编辑
机器学习&数据挖掘笔记_24（PGM练习八：结构学习）
摘要：前言： 本次实验包含了2部分：贝叶斯模型参数的学习以及贝叶斯模型结构的学习，在前面的博文PGM练习七：CRF中参数的学习 中我们已经知道怎样学习马尔科夫模型(CRF)的参数，那个实验采用的是优化方法，而这里贝叶斯模型参数的学习是先假定样本符合某种分布，然后使用统计的方法去学习这些分布的参数，来达到学习模型参数的目的。实验内容请参考coursera课程：Probabilistic Graphical Models中的assignmnet 8,实验code可参考网友的:code 实验中所用到的body pose表现形式如下： 共有10个节点，每个节点由2个坐标变量和1个方向变量构成。...
阅读全文
posted @
2014-01-11 23:53
tornadomeet
阅读(13856)
推荐(1) 编辑
机器学习&数据挖掘笔记_23（PGM练习七：CRF中参数的学习）
摘要：前言： 本次实验主要任务是学习CRF模型的参数，实验例子和PGM练习3中的一样，用CRF模型来预测多张图片所组成的单词，我们知道在graph model的推理中，使用较多的是factor，而在graph model参数的学习中，则使用较多的是指数线性模型，本实验的CRF使用的是log-linear模型，实验内容请参考coursera课程：Probabilistic Graphical Models中的assignmnet 7. 实验code可参考网友的:code实验对应的模型示意图如下： CRF参数求解过程： 本实验中CRF模型所表示的条件概率计算公式为: 其中的分母为划分函...
阅读全文
posted @
2014-01-10 21:38
tornadomeet
阅读(18759)
推荐(2) 编辑
机器学习&数据挖掘笔记_22（PGM练习六：制定决策）
摘要：前言： 本次实验是将一些简单的决策理论和PGM推理结合,实验内容相对前面的图模型推理要简单些。决策理论采用的是influence diagrams，和常见图模型本质一样，其中的决策节点也可以用CPD来描述，做决策时一般是采用最大期望效用准则(MEU)。实验内容参考参考的内容是coursera课程：Probabilistic Graphical Models中的assignment 5. 实验code可参考网友的:code. 实验中一些函数简单说明： Fnew = VariableElimination(F, Z): 给定factorlist F和需要消除的变量集Z，采用sum-pr...
阅读全文
posted @
2014-01-09 15:56
tornadomeet
阅读(3889)
推荐(0) 编辑
机器学习&数据挖掘笔记_21（PGM练习五：图模型的近似推理）
摘要：前言： 这次练习完成的是图模型的近似推理，参考的内容是coursera课程：Probabilistic Graphical Models.上次实验PGM练习四：图模型的精确推理 中介绍的是图模型的精确推理，但在大多数graph上，其精确推理是NP-hard的，所以有必要采用计算上可行的近似推理...
阅读全文
posted @
2014-01-08 17:19
tornadomeet
阅读(8250)
推荐(0) 编辑
机器学习&数据挖掘笔记_20（PGM练习四：图模型的精确推理）
摘要：前言： 这次实验完成的是图模型的精确推理。exact inference分为2种，求边缘概率和求MAP，分别对应sum-product和max-sum算法。这次实验涉及到的知识点很多，不仅需要熟悉图模型的representation，而且还需明白图模型的inference理论，大家可参考cou...
阅读全文
posted @
2014-01-04 15:34
tornadomeet
阅读(14322)
推荐(3) 编辑
