问题描述
字符串匹配,是开发工作中最常见的问题之一。它要求从一个较长的字符串中查找一个较短
的字符串的位置。例如从字符串 \( T=bacbababaabcbab \) 中查找字符串
\( P=ababaca \) 的位置。 \( T \) 称为*主串*, 字符串 \( P \) 称为*模式串*。
这个问题历史悠久而且经常出现,因此有很多解决这个问题的算法。
暴力求解
通常最容易想到的是朴素匹配算法,也叫暴力求解。简单地说,就是对 \( T \) 中所有可能位
置逐一与 \( P \) 匹配。 例如 \( T=badcab \) , \( P=dca \) :
badcab
dca -- 比较 dca 与 bad, 不匹配
dca -- 比较 dca 与 adc, 不匹配
dca -- 比较 dca 与 dca,匹配,返回当前位置 2
匹配代码如下:
int search(const string &T, const string&P) {
if (P.empty()) { // 模式串为空,匹配任意字符串
return 0;
}
if (P.size() > T.size()) { // 模式串比主串还大,肯定不匹配
return -1; // 不匹配返回 -1
}
for (size_t i = 0; i < T.size(); ++i) {
for (size_t j = 0; j < P.size(); ++j) {
if (T[i + j] != P[j]) {
break;
}
if (j == P.size() - 1) {
return i;
}
}
}
return -1; // -1 表示没有匹配
}
设 \( n=T.size() \) , \( m=P.size() \) , 显然这个算法的复杂度是 \( O(nm) \) 。
这个算法简单,有效,不容易出错。大部分情况下,暴力求解够用了。在我的 PC 上,算法复杂度带
入参数后, 计算 \( 1e7 \) 以下的算法, 基本可以在1秒内完成。
哈希求解 (RK, Rabin-Carp)
暴力求解里面,内层循环用来匹配每个位置对应的子串是否和模式串匹配。 这个比较过程
是可以优化的。
我们将 a-z 这26个字符映射到 0-25,将字符串当作 26 进制整数进行匹配,就可以高效地
进行模式串 P 的匹配,从而将内层循环去掉。 算法复杂度是 \( O(n) \)
这个算法的缺点是整数可能溢出。解决办法是使用其它哈希方法,例如将字符串哈希为每个
字符的和,但这会造成哈希值冲突,为了解决冲突,需要在哈希值匹配之后,对字符串逐一
比较。如果存在大量哈希冲突,每次都要再对比字串,因此这样的方法最差时间复杂度是
\( O(nm) \) 。实际上除非模式串较大,否则遇到哈希冲突的情况是非常少的。收到
Bloom-filter 算法的启发,我曾同时使用 8 个不同的哈希函数计算匹配哈希值,模式串不
长所以基本不会冲突,速度很快。缺点就是总被人问“你搞的什么鬼”。后来有人改成了KMP
算法,业务上线2年后发现写错了,review 名单里面也有我, 尴尬的很。写错的算法
还不如暴力求解。
BM 算法 (Boyer-Moore)
让我们仔细查看 \( T=abcacabdc \) , \( P=abd \) 情况,尝试使用暴力求解方法对其匹配。
abcacabdc
1: abd| | | -- 不匹配
2: abd | | -- 不匹配
3: abd| | ..
4: abd | ..
5: abd| -- 不匹配
6: abd -- 匹配!
第1轮匹配时,主串出现字符 \( c \) , 并没有再模式串中出现,其实可以直接将模式串后移
到主串的 \( c \) 之后。
第2轮匹配时,模式串 \( d \) 对应 对应主串的 \( a \) ,不匹配,右移1字节。如果知道 \( a \) 再
模式串中最后出现的位置是 0, 那么直接后移2字节,让主串的 \( a \) 直接与模式串的 \( a \)
对正,可以节省很多时间。
坏字符规则
暴力求解中,模式串与主串按照下标顺序从小到大匹配,BM 算法反而从大到小匹配。从模
式串末尾向前倒着匹配,当发现某个字符无法匹配的时候,主串的这个字符就称为
"坏字符"。如上例中的第1轮匹配的 \( c \) ,也如上例中第4轮匹配的最右侧 \( a \) 。
下面这一轮匹配,坏字符 \( c \) 在模式串中不存在, 可以直接将模式串移动到 \( c \) 后面。
abcacabdc
abd
abd
下面这一轮匹配,坏字符 \( a \) 在模式串中的位置为 0, 可以直接将模式串右移 2 字节,
另模式串的 \( a \) 与主串的坏字符 \( a \) 对正。
abcacabdc
abd
abd
实际上,坏字符出现时,我们将模式串右移,直到模式串中最右侧出现坏字符相同的字符,
与主串的坏字符对正。
坏字符规则显然正确,只是,单纯使用坏字符规则还是不够的,
\( T=aaaaaaaaaaaaaaaaaaa \) , \( P=baaa \) 的情况下,使用坏字符规则时,跟暴力求解方法时一
样的。
好后缀规则
好后缀规则与坏字符规则类似。我们观察 \( T=abcacabcbcbacabc \) , \( P=abcabc \) 的匹配。
v __
abcacabcbcbacabc
abbccbc
abbccbc
-- --
可以看到 "cabc" 匹配之后,出现了坏字符 \( a \) ,此时不考虑坏字符规则,可以将模式串右
移3字节,令模式串中较前的 "bc" 移动到当前位置后缀 "bc" 处。 如果使用坏字符规则,
最后一个 \( a \) 的位置在右边,还要左移做无用功,只能退化到暴力求解方法。
我们很容易预先理解模式串,了解其后缀与等于后缀的最长前缀位置,出现了坏字
符时,直接将模式串右移,直到模式串中的前缀与已经匹配的好后缀相等的位置。
如果字符串中有多个子串与后缀匹配,就选择最右边的子串。
不难看出目前为止的好后缀规则与坏字符规则相似。
但是,当好后缀在模式串中找不到相同的子串字母移动?象暴力求解一样只右移1字节吗?
这种情况可以观察下图,蓝色部分为模式串中前缀等于后缀的部分。由于好已经匹配的好后
缀在模式串中没有其它对应,退而求其次,右移模式串,直到前缀与后缀相等的位置。
如果模式串中间也出现一个蓝色部分,与其中蓝色的前缀、后缀相等,这时不需要考虑的。因
为即使移动中间蓝色部分到后缀蓝色部分相等,由于匹配的好后缀前提已经没有在模式串中
有其它对应了,即使将蓝色子串对应,最终也找不到好后缀从而再次右移。
BM 算法实现
坏字符规则很容易实现,只要构建一个表,可以查找某个字符在模式串中最后出现的位置即
可。
问题是好后缀规则如何高效实现。
我们引入 \( suffix \) 数组, \( suffix[i] \) 表示长度为 \( i \) 的后缀在模式串中相匹配的另一个
子串的位置。例如 \( P=cabcab \) :
b | 1 | 2 | false |
ab | 2 | 1 | false |
cab | 3 | 0 | true |
bcab | 4 | -1 | false |
abcab | 5 | -1 | false |
\( suffix \) 数组可以解决好后缀在模式串中有其它匹配的子串的情况。当没有子串与好后缀
匹配时,还需要 \( prefix \) 数组。 \( prefix[i] \) 表示长度为 \( i \) 的后缀与模式串前缀是否
相等。
实现代码如下:
// 字符集大小
const static int kMaxChar = 256;
// 坏字符
vector<int> generate_bad_char(string P) {
vector<int> bc(kMaxChar);
fill(bc.begin(), bc.end(), -1); // 初始化
for (int i = 0; i < P.size(); ++i) {
bc[P[i]] = i;
}
return bc;
}
// 好后缀
void generate_good_suffix(string P, vector<int>&suffix, vector<bool>&prefix) {
suffix = vector<int>(P.size());
prefix = vector<bool>(P.size());
fill(prefix.begin(), prefix.end(), false);
fill(suffix.begin(), suffix.end(), -1);
for (int i = 0; i < P.size() - 1; ++i) { // P[0..i] 中有没有后缀匹配
int j = i;
int k = 0; // 公共后缀子串的长度
while (j >= 0 && P[j] == P[P.size() - 1 - k]) {
// P[j..i] 与 P[...P.size()-1] 匹配
--j; ++k;
suffix[k] = j + 1;
}
if (j == -1) { // 后缀与前缀匹配 P[0..i] = P[...P.size()-1]
prefix[k] = true;
}
}
}
// j 表示坏字符对应 P 的下标
// m 表示 P.size()
int move_gs(int j, int m, vector<int>suffix, vector<bool>prefix) {
int k = m - 1 - j; // 好后缀长度
if (suffix[k] != -1) { // P 中存在其他好后缀匹配
return j - suffix[k] + 1;
}
for (int r = j + 2; r <= m - 1; ++r) {
// 查找最长匹配的前缀
if (prefix[m - r]) {
return r;
}
return r;
}
// 都没匹配,就直接右移整串
return m;
}
int bm(string T, string P) {
if (P.empty()) { // 模式串为空,匹配任意字符串
return 0;
}
if (P.size() > T.size()) { // 模式串比主串还大,肯定不匹配
return -1; // 不匹配返回 -1
}
auto bc = generate_bad_char(P);
vector<int> suffix;
vector<bool> prefix;
generate_good_suffix(P, suffix, prefix);
int i = 0; // 匹配位置
while (i <= T.size() - P.size()) {
int j;
for (j = P.size()-1; j >= 0; --j) { // 模式串从后往前 P[j] .. P[0]
if (T[i+j] != P[j]) {
break; // 找到坏字符 T[i+j]
}
}
if (j < 0) {
return i; // 没有坏字符,匹配成功
}
int x = j - bc[T[i+j]]; // 坏字符是 T[i+j]
int y = 0;
if (j < P.size() - 1) { // 存在好后缀
y = move_gs(j, P.size(), suffix, prefix);
}
i = max(x, y);
}
return -1;
}
BM 算法的复杂度
BM 的算法复杂度分析很难,Tight Bounds On The Complexity Of The Boyer-Moore
String Maching Algorithm 证明 BM 算法的比较次数上限是 \( 3n \) 。
KMP 算法 (Knuth Morris Pratt)
我从来没有在实际工作中实现过 KMP 算法,倒是有不少人,正好最近看了 KMP 或者红黑树
之后就到面试官职位上显摆,让人手写一个,钥匙最近正好看过倒也不难。 虽然平时没什
么用,但算法对人思维的启发性也是有意义的,因为与其类似的 AC 自动机算法经常要自己
实现。
KMP 算法的思想与 BM 算法类似。它顺序比较模式串,如果遇到坏字符,就向右移动直到前
缀匹配到好前缀。 观察下面的例子。
v
ababaeabac
ababacd
---
\ \
---
ababacd
匹配到坏字符 \( e \) 时, \( P \) 的好前缀 \( ababa \) 已经确定匹配了。我们发现:
ababa
ababa
这个好前缀的前缀与后缀有一个最长的匹配,我们右移 \( P \) 时,可以直接移动到令这个最
长匹配对应。它是最长匹配,移动位数小于它的总是比它差,直接移动到令最长匹配对正就
可以。
实现需要一个 \( next \) 数组,\( next[i] \) 表示 \( P[0..i] \) 的后缀中最长可匹配前缀子串的
下标。 例如字符串 \( P=ababacd \) :
a | 0 | -1 | 不存在 |
ab | 1 | -1 | 不存在 |
aba | 2 | 0 | P[0] = P[2] |
abab | 3 | 1 | P[0..1] == P[2..3] |
ababa | 4 | 2 | P[0..2] == P[2..4] |
ababac | 5 | 1 | 不存在 |
计算 \( next \) 数组使用的是类似动态规划的方法。
- \( next[i]=k \) 等价于 \( P[0..k]=P[i-k..i] \) 。此时若 \( P[k+1]=P[i+1] \) , 那么
\( P[0..k+1]=P[i-k..i+1] \) , 即 \( next[i+1]=k+1 \) 。 - 若 \( P[k+1]\neq P[i+1] \) ,就要尝试次更短长度的匹配前缀后缀匹配。令 \( m=next[k] \) ,
\( P[0..m]=P[i-m..i] \) 。若 \( P[m+1]=P[i+1] \) ,那么 \( next[i+1]=m+1 \) 。以此类推。
实现如下:
vector<int> gen_next(string P) {
vector<int> next(P.size());
if (P.empty()) {
return next;
}
next[0] = -1;
int k = -1;
for (int i = 1; i < P.size(); ++i) {
while (k != -1 && P[k+1] != P[i]) {
k = next[k];
}
if (P[k+1] == P[i]) {
++k;
}
next[i] = k;
}
return next;
}
int kmp(string T, string P) {
if (P.empty()) { // 模式串为空,匹配任意字符串
return 0;
}
if (P.size() > T.size()) { // 模式串比主串还大,肯定不匹配
return -1; // 不匹配返回 -1
}
auto next = gen_next(P);
int j = 0;
for (int i = 0; i < T.size(); ++i) {
while (j > 0 && T[i] != P[j]) {
j = next[j - 1] + 1;
}
if (T[i] == P[j]) {
++j;
}
if (j == P.size()) {
return i - P.size() + 1;
}
}
return -1;
}
KMP 算法的复杂度不难计算。 \( next \) 数组构建时, while 循环分析有点麻烦。可以这么
想: 每次循环,\( k \) 要么增加1,要么减少。增加的地方只有 \( ++k \) , 在 for 循环中,所
以最多执行 \( m-1 \) 次。 \( k \) 减少是在 while 循环中,因为它最小值 \( -1 \) 后不可能再递
减,所以最多执行 \( m-1 \) 次。 因此计算 \( next \) 数组的时间复杂度时 \( O(m) \) 。
同理,匹配 \( T \) 时复杂度时 \( O(n) \) 。 KMP 的总体时间复杂度时 \( O(n+m) \) 。