隐马尔可夫模型-HMM-简述-1-原理-示例
1. 简述
现在本人对隐马尔可夫模型(HMM)的理解十分有限,本文主要是学习笔记的形式。
2. HMM基本原理
HMM是一个双重随机过程,准确一点说就是两个状态集合,三个矩阵。
两个状态集合:隐藏状态(S1,S2,S3,...)和观察状态(O1,O2,O3,...)。HMM的假设是隐藏状态之间是一个马尔科夫链,即对应一个初始状态矩阵(P)和状态转移矩阵(A)。假设观察状态由隐藏状态决定,即混淆矩阵(B)。
一般的,用λ=(A,B,P)三元组表示一个隐马尔可夫模型。隐马尔可夫模型实际上是标准马尔可夫模型的扩展,添加了可观测状态集合和这些状态与隐含状态之间的概率关系。
注意:矩阵A是一个方阵,反映的是隐藏状态之间的概率转移,即P(Si|Sj)表示从Sj到Si的概率,矩阵B不一定是方阵,反映的是已知隐藏状态,观察状态的条件概率,即P(Oj|Si)表示从Si到Oj的概率。
3. HMM简单示例
假设你有一个住得很远的朋友,他每天跟你打电话告诉你他那天做了什么。你的朋友仅仅对三种活动感兴趣:公园散步,购物以及清理房间。他选择做什么事情只凭天气,他把天气只分为两种:“雨”或者“晴”。
我们使用HMM对这个经典的例子进行建模,天气决定了朋友的活动,因此天气状态是隐藏状态,活动状态是观察状态。这样假设了天气状态之间具有马尔科夫性。
S=(雨,晴),O=(公园散步,购物,清理房间),π是1*2的矩阵,A是2*2的矩阵,B是2*3的矩阵。对应Python代码:
observations = ('walk', 'shop', 'clean')
start_probability = {'Rainy': 0.6, 'Sunny': 0.4}
transition_probability = {
'Rainy' : {'Rainy': 0.7, 'Sunny': 0.3},
'Sunny' : {'Rainy': 0.4, 'Sunny': 0.6},
}
emission_probability = {
'Rainy' : {'walk': 0.1, 'shop': 0.4, 'clean': 0.5},
'Sunny' : {'walk': 0.6, 'shop': 0.3, 'clean': 0.1},
}
4. 总结
就一点,HMM是一个双重随机过程,两个集合,三个矩阵,S,O,A,B,P。
5. 参考
百度百科_隐马尔可夫模型 http://baike.baidu.com/view/1174010.htm
维基百科_隐马尔可夫模型 http://zh.wikipedia.org/wiki/%E9%9A%90%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB%E6%A8%A1%E5%9E%8B