01 2016 档案

机器学习 —— 概率图模型（推理：团树算法）
摘要：在之前的消息传递算法中，谈到了聚类图模型的一些性质。其中就有消息不能形成闭环，否则会导致“假消息传到最后我自己都信了”。为了解决这种问题，引入了一种称为团树（clique tree)的数据结构，树模型没有图模型中的环，所以此模型要比图模型更健壮，更容易收敛。1.团树模型 链模型是一种最简单的树... 阅读全文
posted @ 2016-01-22 16:40 IronStark 阅读(8152) 评论(0) 推荐(0)
机器学习 —— 概率图模型（推理：消息传递算法）
摘要：概率图模型G(V,E)由节点V和边E构成。在之前马尔科夫模型相关的博客中，我谈到马尔科夫模型的本质是当两个人交流后，其意见（两个随机变量）同意0与不同意1的概率组合。而势函数表达的是两个意见相同或者相左的程度。 我们搞的那么麻烦，最后想要得到的不就是每个意见正确与否（随机变量取不同值的概率）吗... 阅读全文
posted @ 2016-01-20 22:18 IronStark 阅读(10331) 评论(2) 推荐(0)
第二次读书会的思考
摘要：昨天和老师同学们进行了第二次读书会的讨论。讨论的主题是如何与团队一起成长。 其实建立一个团队并不是每个人都会遇到的问题，但是与人相处，找到自己在一群人中的定位却是大家都会遇到的问题。对于同学们谈到的经验与技术问题我并不是太感兴趣，经验其实是慢慢累积的，技术也是慢慢锻炼的。而与人相处，共事，倒真... 阅读全文
posted @ 2016-01-19 21:34 IronStark 阅读(980) 评论(6) 推荐(1)
机器学习 —— 概率图模型（推理：变量消除）
摘要：概率图的一个重要作用是进行推理，针对某个随机变量，告诉我们它到底有没有可能，有多大可能发生。之前在representation相关的内容中，我们更多的关心如何利用概率图减少联合分布的计算量。inference相关的章节就是要介绍如何从联合概率中获得单个随机变量的概率。1.链状变量消除 对于给定... 阅读全文
posted @ 2016-01-17 20:32 IronStark 阅读(6885) 评论(0) 推荐(2)
机器学习 —— 概率图模型（马尔科夫与条件随机场）
摘要：再一次遇到了Markov模型与条件随机场的问题，学而时习之，又有了新的体会。所以我决定从头开始再重新整理一次马尔科夫模型与条件随机场。 马尔科夫模型是一种无向概率图模型，其与马尔科夫链并不是很一样。马尔科夫链的节点是状态，边是转移概率，是template CPD的一种有向状态转移表达。而马尔科... 阅读全文
posted @ 2016-01-13 19:35 IronStark 阅读(17576) 评论(1) 推荐(0)
机器学习 —— 概率图模型（CPD）
摘要：CPD是conditional probability distribution的缩写，翻译成中文叫做 条件概率分布。在概率图中，条件概率分布是一个非常重要的概念。因为概率图研究的是随机变量之间的练习，练习就是条件，条件就要求条件概率。 对于简单的条件概率而言，我们可以用一个条件概率表来表达。... 阅读全文
posted @ 2016-01-12 22:02 IronStark 阅读(7451) 评论(0) 推荐(0)