隐马尔可夫模型（一）——马尔可夫模型

简介

马尔可夫模型（Markov Model)描述了一类随机变量随时间而变化的随机函数。考察一个状态序列（此时随机变量为状态值），这些状态并不是相互独立的，每个状态的值依赖于序列中此状态之前的状态。

数学描述

一个系统由N个状态S= {s₁,s₂,...s_n}，随着时间的推移，该系统从一个状态转换成另一个状态。Q= {q₁,q₂,...q_n}为一个状态序列，q_i∈S,在t时刻的状态为q_t,对该系统的描述要给出当前时刻t所处的状态s_t，和之前的状态s₁,s₂,...s_t, 则t时刻位于状态q_t的概率为：P(q_t=s_t|q₁=s₁,q₂=s₂,...q_t-1=s_t-1)。这样的模型叫马尔可夫模型。

特殊状态下，当前时刻的状态只决定于前一时刻的状态叫一阶马尔可夫模型，即P(q_t=s_i|q₁=s₁,q₂=s₂,...q_t-1=s_j) =P(q_t=s_i|q_t-1=s_j)。

状态之间的转化表示为a_ij,a_ij=P(q_t=s_j|q_t-1=s_i),其表示由状态i转移到状态j的概率。其必须满足两个条件：   1.a_ij≥ 0    2.=1

对于有N个状态的一阶马尔科夫模型，每个状态可以转移到另一个状态（包括自己），则共有N²次状态转移，可以用状态转移矩阵表示。

例子

一段文字中名词、动词、形容词出现的情况可以用有3个状态的y一阶马尔科夫模型M表示：

                  状态s1:名词         状态s2:动词       状态s3:形容词

状态转移矩阵：     s1            s2          s3

                     A= 

则状态序列O=“名动形名”（假定第一个词为名词）的概率为：

          P(O|M) = P(s₁,s₂,s₃,s₄} = P(s₁)*p(s₂|s₁)p(s₃|s₂)p(s₁|s₃)

                                             =p(s₁)*a₁₂*a₂₃*a₃₁

                                             =1*0.5*0.2*0.4

                                             =0.04

应用领域

马尔科夫模型可以用来语音识别、音字转化、词性标注、统计机器翻译。