【算法学习】后缀数组
一个字符串的题,有姿势水平的OIers的脑中应该要浮现出许多算法……
但是我没有姿势,也没有水平,除了KMP和trie树,什么也想不起来。
直到我学了它——后缀数组!
多亏这玩意儿,我现在什么都想不起来了。
后缀数组干嘛用的?
主要处理同一个字符串中的重复子串问题。
如何实现?
注意到每一个子串,都是一个后缀的某个前缀,这个后缀和前缀都是唯一确定的。
而后缀相同的前缀,和他们的字典序有密切联系。你有没有想过,字典中的相邻单词,他们的公共前缀总是很长。
一个字符串的任意后缀,都能用它的起始位置的下标唯一确定。
一个字符串的后缀数组(SuffixArray/SA),就是它的所有后缀字典序排序后的结果,当然不是存储了所有的后缀,仅仅是存储了它们的起始位置罢了。
这篇文章并不是要详细说明后缀数组能干嘛的,怎么实现。它只是让你们对后缀数组的实现有更直观的理解,弄清楚代码的每一行都是干嘛的。
这篇文章适合用作补充材料。如果你是初学者,想要对理论有着更基础的认识,建议百度一下,或者看看这篇blog或者这篇blog。
因为博主学习的时候,也弄不太清楚SA到底怎么求出的,那个神奇的计数排序如何实现等等……
下面贴出一个注释详尽的模板,来为大家理清思路。
1 #include<cstdio> 2 #include<cstring> 3 #define MAXN 1000005 4 int len, m=127; 5 //len : 字符串长度 , m : 不同排名的个数 / 字符集大小(初始时) 6 char str[MAXN]; 7 //字符串 , 从 1 开始编号 8 int rank[MAXN], SA2[MAXN]; 9 //rank : 第 i 次排序后的 rank / 第 i+1 次排序前的第一关键字 10 //SA2[k] : 第 i+1 次排序前的第二关键字第 k 小的后缀下标 11 int cnt[MAXN], tmp[MAXN]; 12 //cnt : 桶排序用的"桶" , tmp : 重新计算 rank 的辅助数组 , 这两个数组可以合并 13 int SA[MAXN]; 14 //后缀数组 , SA[i] : 排名为 i 的后缀的起始位置 15 int Height[MAXN]; 16 //Height[i] = LCP(Suffix(SA[i]), Suffix(SA[i-1])) 17 void getHeight(){ 18 //计算方法 : Height[rank[i]] >= Height[rank[i-1]] - 1 19 //即意 : "长度为 i 的后缀和它排名前一名的 LCP 长度" , 不比 "长度为 i+1 的后缀与其排名前一名的 LCP 长度" 减一来得小 20 //所以从最长的后缀(整个字符串,即rank[1],对应Height[rank[1]])开始计算 , 然后缩短长度直至 1 21 //保证复杂度 O(len) 22 //PS : Height[1]=0 23 int k=0; 24 for(int i=1;i<=len;++i){ 25 if(rank[i]==1) {k=Height[1]=0; continue;} 26 if(k) --k; 27 int j=SA[rank[i]-1]; 28 while(i+k<=len&&j+k<=len&&str[i+k]==str[j+k]) ++k; 29 Height[rank[i]]=k; 30 } 31 // for(int i=1;i<=len;++i) printf("%d ",Height[i]); puts(""); 32 } 33 inline void Rsort() { 34 //通过 rank , SA2 两个数组 , 确定新的 SA 35 for(int i=1; i<=m; ++i) cnt[i]=0; 36 //这里用 memset 也可以 37 for(int i=1; i<=len; ++i) ++cnt[rank[i]]; 38 for(int i=1; i<=m; ++i) cnt[i]+=cnt[i-1]; 39 //计数排序的 nb 操作 40 for(int i=len; i>=1; --i) SA[cnt[rank[SA2[i]]]--]=SA2[i]; 41 //更新 SA 42 } 43 void getSA() { 44 for(int i=1; i<=len; ++i) rank[i]=str[i], SA2[i]=i; 45 Rsort(); 46 // printf("rk : "); for(int i=1;i<=len;++i) printf("%d ",rank[i]); puts(""); 47 // printf("SA : "); for(int i=1;i<=len;++i) printf("%d ",SA[i]); puts(""); 48 for(int j=1; j<=len; j<<=1) { 49 int p=0; 50 for(int i=len-j+1; i<=len; ++i) SA2[++p]=i; 51 for(int i=1; i<=len; ++i) if(SA[i]>j) SA2[++p]=SA[i]-j; 52 //计算 SA2 53 Rsort(); 54 //计算新的 SA 55 tmp[SA[1]]=p=1; 56 for(int i=2; i<=len; ++i) { 57 if(rank[SA[i]]!=rank[SA[i-1]]||rank[SA[i]+j]!=rank[SA[i-1]+j]) ++p; 58 tmp[SA[i]]=p; 59 } 60 for(int i=1; i<=len; ++i) rank[i]=tmp[i]; 61 //根据 SA 更新新的 rank 62 m=p; 63 if(m==len) break; 64 //不同排名的个数 m 更新成 p , 当所有排名都不同时 , 就可以退出了 65 //实践证明这一句话加上会快(数据较随机) , 但是理论上可以被卡掉 66 // printf("rk : "); for(int i=1;i<=len;++i) printf("%d ",rank[i]); puts(""); 67 // printf("SA : "); for(int i=1;i<=len;++i) printf("%d ",SA[i]); puts(""); 68 // printf("SA2: "); for(int i=1;i<=len;++i) printf("%d ",SA2[i]); puts(""); 69 //输出每步结果 70 } 71 getHeight(); 72 } 73 int main() { 74 scanf("%s",str+1); 75 len=strlen(str+1); 76 getSA(); 77 return 0; 78 }
接下来解释一下代码中难懂的部分,也是众多blog没有说清楚的地方:计数排序。
代码37行:
for(int i=1; i<=len; ++i) ++cnt[rank[i]];
rank[i]表示第一关键字,cnt就是桶。
这只是在统计桶中元素罢了。
代码38行:
for(int i=1; i<=m; ++i) cnt[i]+=cnt[i-1];
它把桶做了前缀和,这样的目的在于,我们知道了对于某一个第一关键字,它所对应的区间:( cnt[i-1] , cnt[i] ],这是一个左开右闭区间。
仔细思考一下是不是这样。
代码40行:
for(int i=len; i>=1; --i) SA[cnt[rank[SA2[i]]]--]=SA2[i];
对于确定的第一关键字,我们知道对应区间,但是在同一个区间中,第二关键字还要保证升序啊。
看看SA2数组,它是第二关键字从小到大排序对应的后缀下标,那么在 i 从大到小的循环过程中,SA2[i]就是满足第二关键字从大到小的后缀下标。
那么再在外面套一个rank[SA2[i]]呢?如果有两个 i 的rank[SA2[i]]是相同的,即它们的第一关键字相同,那么我们说,是第二关键字大的先访问到。
那么在SA数组中,这就表示成,在同一个第一关键字下,按照着第二关键字从大到小的顺序,数组从后往前填充着后缀下标。
那就是说,在满足了第一关键字有序的情况下,从前往后,第二关键字也是从小往大的。
这就是计数排序的原理,还是非常巧妙的。
新模板:
#include <cstdio> #include <cstring> #include <algorithm> const int MN = 100005; int N, M; char str[MN]; struct SuffixArray { int N, Str[MN], SA[MN], rk[MN], SA2[MN]; int Sig, Buk[MN], Tmp[MN]; int Height[MN]; inline void RSort() { for (int i = 1; i <= Sig; ++i) Buk[i] = 0; for (int i = 1; i <= N; ++i) ++Buk[rk[i]]; for (int i = 1; i <= Sig; ++i) Buk[i] += Buk[i - 1]; for (int i = N; i >= 1; --i) SA[Buk[rk[SA2[i]]]--] = SA2[i]; } inline void BuildSA() { /* Init Str */ for (int i = 1; i <= N; ++i) rk[i] = Str[i], SA2[i] = i; rk[N + 1] = 0; Sig = 26 /* maximum letter in Str */, RSort(); for (int j = 1; j < N; j <<= 1) { int P = 0; for (int i = 1; i <= j; ++i) SA2[++P] = N - j + i; for (int i = 1; i <= N; ++i) if (SA[i] > j) SA2[++P] = SA[i] - j; RSort(); Tmp[SA[1]] = P = 1; for (int i = 2; i <= N; ++i) { if (rk[SA[i]] != rk[SA[i - 1]] || rk[SA[i] + j] != rk[SA[i - 1] + j]) ++P; Tmp[SA[i]] = P; } for (int i = 1; i <= N; ++i) rk[i] = Tmp[i]; Sig = P; if (Sig == N) break; } } inline void GetHeight() { int k = 0; for (int i = 1; i <= N; ++i) { if (rk[i] == 1) k = Height[1] = 0; else { if (k) --k; int j = SA[rk[i] - 1]; while (i + k <= N && j + k <= N && Str[i + k] == Str[j + k]) ++k; Height[rk[i]] = k; } } } int BLCP[MN][21], Bt; inline void InitST() { for (int i = 1; i <= N; ++i) BLCP[i][0] = Height[i]; while (2 << Bt <= N) ++Bt; for (int j = 1; j <= Bt; ++j) for (int i = 1 << j; i <= N; ++i) BLCP[i][j] = std::min(BLCP[i][j - 1], BLCP[i - (1 << (j - 1))][j - 1]); } inline int LCP(int x, int y) { if (x == y) return N + 1; x = rk[x], y = rk[y]; if (x > y) std::swap(x, y); int j = 31 - __builtin_clz(y - x); return std::min(BLCP[y][j], BLCP[x + (1 << j)][j]); } } C1, C2; int main() { scanf("%d%d", &N, &M); scanf("%s", str + 1); for (int i = 1; i <= N; ++i) C2.Str[N - i + 1] = C1.Str[i] = str[i] - 'a' + 1; C2.N = C1.N = N, C1.BuildSA(), C2.BuildSA(), C1.GetHeight(), C2.GetHeight(); for (int i = 1; i <= N; ++i) printf("%3d : %s\n", i, str + C1.SA[i]); return 0; }
ideone 链接:https://ideone.com/RHDZdU。