动态规划之 KMP 算法详解(转)
本文用pat
表示模式串,长度为M
,txt
表示文本串,长度为N
。KMP 算法是在txt
中查找子串pat
,如果存在,返回这个子串的起始索引,否则返回 -1。
一、KMP 算法概述
首先还是简单介绍一下 KMP 算法和暴力匹配算法的不同在哪里,难点在哪里,和动态规划有啥关系。
暴力的字符串匹配算法很容易写,看一下它的运行逻辑:
// 暴力匹配(伪码) int search(String pat, String txt) { int M = pat.length; int N = txt.length; for (int i = 0; i <= N - M; i++) { int j; for (j = 0; j < M; j++) { if (pat[j] != txt[i+j]) break; } // pat 全都匹配了 if (j == M) return i; } // txt 中不存在 pat 子串 return -1; }
对于暴力算法,如果出现不匹配字符,同时回退txt
和pat
的指针,嵌套 for 循环,时间复杂度 O(MN),空间复杂度O(1)。最主要的问题是,如果字符串中重复的字符比较多,该算法就显得很蠢。
比如 txt = "aaacaaab" pat = "aaab":
很明显,pat
中根本没有字符 c,根本没必要回退指针i
,暴力解法明显多做了很多不必要的操作。
KMP 算法的不同之处在于,它会花费空间来记录一些信息,在上述情况中就会显得很聪明:
再比如类似的 txt = "aaaaaaab" pat = "aaab",暴力解法还会和上面那个例子一样蠢蠢地回退指针i
,而 KMP 算法又会耍聪明:
因为 KMP 算法知道字符 b 之前的字符 a 都是匹配的,所以每次只需要比较字符 b 是否被匹配就行了。
KMP 算法永不回退txt
的指针i
,不走回头路(不会重复扫描txt
),而是借助dp
数组中储存的信息把pat
移到正确的位置继续匹配,时间复杂度只需 O(N),用空间换时间,所以我认为它是一种动态规划算法。
KMP 算法的难点在于,如何计算dp
数组中的信息?如何根据这些信息正确地移动pat
的指针?这个就需要确定有限状态自动机来辅助了,别怕这种高大上的文学词汇,其实和动态规划的dp
数组如出一辙,等你学会了也可以拿这个词去吓唬别人。
还有一点需要明确的是:计算这个dp
数组,只和pat
串有关。意思是说,只要给我个pat
,我就能通过这个模式串计算出dp
数组,然后你可以给我不同的txt
,我都不怕,利用这个dp
数组我都能在 O(N) 时间完成字符串匹配。
具体来说,比如上文举的两个例子:
txt1 = "aaacaaab" pat = "aaab" txt2 = "aaaaaaab" pat = "aaab"
我们的txt
不同,但是pat
是一样的,所以 KMP 算法使用的dp
数组是同一个。
只不过对于txt1
的下面这个即将出现的未匹配情况:
dp
数组指示pat
这样移动:
PS:这个j
不要理解为索引,它的含义更准确地说应该是状态(state),所以它会出现这个奇怪的位置,后文会详述。
明白了dp
数组只和pat
有关,那么我们这样设计 KMP 算法就会比较漂亮:
二、状态机概述
为什么说 KMP 算法和状态机有关呢?是这样的,我们可以认为pat
的匹配就是状态的转移。比如当 pat = "ABABC":
如上图,圆圈内的数字就是状态,状态 0 是起始状态,状态 5(pat.length
)是终止状态。开始匹配时pat
处于起始状态,一旦转移到终止状态,就说明在txt
中找到了pat
。
另外,处于某个状态时,遇到不同的字符,pat
状态转移的行为也不同。比如说假设现在匹配到了状态 4,如果遇到字符 A 就应该转移到状态 3,遇到字符 C 就应该转移到状态 5,如果遇到字符 B 就应该转移到状态 0
这里为了清晰起见,我们画状态图时就把其他字符转移到状态 0 的箭头省略,只画pat
中出现的字符的状态转移:
KMP 算法最关键的步骤就是构造这个状态转移图。要确定状态转移的行为,得明确两个变量,一个是当前的匹配状态,另一个是遇到的字符;确定了这两个变量后,就可以知道这个情况下应该转移到哪个状态。
为了描述状态转移图,我们定义一个二维 dp 数组,它的含义如下:
dp[j][c] = next 0 <= j < M,代表当前的状态 0 <= c < 256,代表遇到的字符(ASCII 码) 0 <= next <= M,代表下一个状态 dp[4]['A'] = 3 表示: 当前是状态 4,如果遇到字符 A, pat 应该转移到状态 3 dp[1]['B'] = 2 表示: 当前是状态 1,如果遇到字符 B, pat 应该转移到状态 2
根据我们这个 dp 数组的定义和刚才状态转移的过程,我们可以先写出 KMP 算法的 search 函数代码:
public int search(String txt) { int M = pat.length(); int N = txt.length(); // pat 的初始态为 0 int j = 0; for (int i = 0; i < N; i++) { // 当前是状态 j,遇到字符 txt[i], // pat 应该转移到哪个状态? j = dp[j][txt.charAt(i)]; // 如果达到终止态,返回匹配开头的索引 if (j == M) return i - M + 1; } // 没到达终止态,匹配失败 return -1; }
三、构建状态转移图
回想刚才说的:要确定状态转移的行为,必须明确两个变量,一个是当前的匹配状态,另一个是遇到的字符,而且我们已经根据这个逻辑确定了dp
数组的含义,那么构造dp
数组的框架就是这样:
for 0 <= j < M: # 状态 for 0 <= c < 256: # 字符 dp[j][c] = next
这个 next 状态应该怎么求呢?显然,如果遇到的字符c
和pat[j]
匹配的话,状态就应该向前推进一个,也就是说next = j + 1
,我们不妨称这种情况为状态推进:
如果遇到的字符c
和pat[j]
不匹配的话,状态就要回退(或者原地不动),我们不妨称这种情况为状态重启:
那么,如何得知在哪个状态重启呢?解答这个问题之前,我们再定义一个名字:影子状态(我编的名字),用变量X
表示。所谓影子状态,就是和当前状态具有相同的前缀。比如下面这种情况:
当前状态j = 4
,其影子状态为X = 2
,它们都有相同的前缀 "AB"。因为状态X
和状态j
存在相同的前缀,所以当状态j
准备进行状态重启的时候(遇到的字符c
和pat[j]
不匹配),可以通过X
的状态转移图来获得最近的重启位置。
比如说刚才的情况,如果状态j
遇到一个字符 "A",应该转移到哪里呢?首先状态 4 只有遇到 "C" 才能推进状态,遇到 "A" 显然只能进行状态重启。状态j
会把这个字符委托给状态X
处理,也就是dp[j]['A'] = dp[X]['A']
:
这样,我们就可以细化一下刚才的框架代码:
int X # 影子状态 for 0 <= j < M: for 0 <= c < 256: if c == pat[j]: # 状态推进 dp[j][c] = j + 1 else: # 状态重启 # 委托 X 计算重启位置 dp[j][c] = dp[X][c]
四、代码实现
public class KMP { private int[][] dp; private String pat; public KMP(String pat) { this.pat = pat; int M = pat.length(); // dp[状态][字符] = 下个状态 dp = new int[M][256]; // base case dp[0][pat.charAt(0)] = 1; // 影子状态 X 初始为 0 int X = 0; // 当前状态 j 从 1 开始 for (int j = 1; j < M; j++) { for (int c = 0; c < 256; c++) { if (pat.charAt(j) == c) dp[j][c] = j + 1; else dp[j][c] = dp[X][c]; } // 更新影子状态 X = dp[X][pat.charAt(j)]; } } public int search(String txt) {...} }
先解释一下这一行代码:
// base case
dp[0][pat.charAt(0)] = 1;
这行代码是 base case,只有遇到 pat[0] 这个字符才能使状态从 0 转移到 1,遇到其它字符的话还是停留在状态 0(Java 默认初始化数组全为 0)。
影子状态X
是先初始化为 0,然后随着j
的前进而不断更新的。下面看看到底应该如何更新影子状态X
:
int X = 0; for (int j = 1; j < M; j++) { ... // 更新影子状态 // 当前是状态 X,遇到字符 pat[j], // pat 应该转移到哪个状态? X = dp[X][pat.charAt(j)]; }
其中的原理非常微妙,注意代码中 for 循环的变量初始值,可以这样理解:后者是在txt
中匹配pat
,前者是在pat
中匹配pat[1:]
,状态X
总是落后状态j
一个状态,与j
具有最长的相同前缀。所以我把X
比喻为影子状态,似乎也有一点贴切。
public class KMP { private int[][] dp; private String pat; public KMP(String pat) { this.pat = pat; int M = pat.length(); // dp[状态][字符] = 下个状态 dp = new int[M][256]; // base case dp[0][pat.charAt(0)] = 1; // 影子状态 X 初始为 0 int X = 0; // 构建状态转移图(稍改的更紧凑了) for (int j = 1; j < M; j++) { for (int c = 0; c < 256; c++) dp[j][c] = dp[X][c]; dp[j][pat.charAt(j)] = j + 1; // 更新影子状态 X = dp[X][pat.charAt(j)]; } } public int search(String txt) { int M = pat.length(); int N = txt.length(); // pat 的初始态为 0 int j = 0; for (int i = 0; i < N; i++) { // 计算 pat 的下一个状态 j = dp[j][txt.charAt(i)]; // 到达终止态,返回结果 if (j == M) return i - M + 1; } // 没到达终止态,匹配失败 return -1; } }
五、最后总结
传统的 KMP 算法是使用一个一维数组next
记录前缀信息,而本文是使用一个二维数组dp
以状态转移的角度解决字符匹配问题,但是空间复杂度仍然是 O(256M) = O(M)。
在pat
匹配txt
的过程中,只要明确了「当前处在哪个状态」和「遇到的字符是什么」这两个问题,就可以确定应该转移到哪个状态(推进或回退)。
对于一个模式串pat
,其总共就有 M 个状态,对于 ASCII 字符,总共不会超过 256 种。所以我们就构造一个数组dp[M][256]
来包含所有情况,并且明确dp
数组的含义:
dp[j][c] = next
表示,当前是状态j
,遇到了字符c
,应该转移到状态next
。
明确了其含义,就可以很容易写出 search 函数的代码。
对于如何构建这个dp
数组,需要一个辅助状态X
,它永远比当前状态j
落后一个状态,拥有和j
最长的相同前缀,我们给它起了个名字叫「影子状态」。
在构建当前状态j
的转移方向时,只有字符pat[j]
才能使状态推进(dp[j][pat[j]] = j+1
);而对于其他字符只能进行状态回退,应该去请教影子状态X
应该回退到哪里(dp[j][other] = dp[X][other]
,其中other
是除了pat[j]
之外所有字符)。
对于影子状态X
,我们把它初始化为 0,并且随着j
的前进进行更新,更新的方式和 search 过程更新j
的过程非常相似(X = dp[X][pat[j]]
)。
六、完整C++代码
#include <stdio.h> #include <string> #include <vector> using namespace std; class KMP { public: KMP(string pat) { _pat=pat; int m=pat.size(); _dp=vector<vector<int>>(m,vector<int>(256,0)); _dp[0][pat[0]]=1; int X=0; for(int j=1;j<m;++j){ for(int c=0;c<256;++c) { if(pat[j]==c) _dp[j][c]=j+1; else { _dp[j][c]=_dp[X][c]; } } X=_dp[X][pat[j]]; } } int search(string txt, string pat) { int n=txt.size(); int m=pat.size(); int j=0; for(int i=0;i<n;++i){ j=_dp[j][txt[i]]; if(j==m) return i-m+1; } return -1; } vector<vector<int>> _dp; string _pat; }; int main(int argc, char *argv[]) { string txt="aaaaaaaaab"; string pat="aaaab"; KMP k(pat); int res=k.search(txt,pat); printf("res=%d\n",res); return 0; }