问题描述

字符串匹配,是开发工作中最常见的问题之一。它要求从一个较长的字符串中查找一个较短
的字符串的位置。例如从字符串 \( T=bacbababaabcbab \) 中查找字符串
\( P=ababaca \) 的位置。 \( T \) 称为*主串*, 字符串 \( P \) 称为*模式串*。

这个问题历史悠久而且经常出现,因此有很多解决这个问题的算法。

原文地址

暴力求解

通常最容易想到的是朴素匹配算法,也叫暴力求解。简单地说,就是对 \( T \) 中所有可能位
置逐一与 \( P \) 匹配。 例如 \( T=badcab \) , \( P=dca \) :

badcab
dca    -- 比较 dca 与 bad, 不匹配
 dca   -- 比较 dca 与 adc, 不匹配
  dca  -- 比较 dca 与 dca,匹配,返回当前位置 2

匹配代码如下:

int search(const string &T, const string&P) {
    if (P.empty()) { // 模式串为空,匹配任意字符串
        return 0;
    }
    if (P.size() > T.size()) { // 模式串比主串还大,肯定不匹配
        return -1; // 不匹配返回 -1
    }
    for (size_t i = 0; i < T.size(); ++i) {
        for (size_t j = 0; j < P.size(); ++j) {
            if (T[i + j] != P[j]) {
                break;
            }
            if (j == P.size() - 1) {
                return i;
            }
        }
    }
    return -1; // -1 表示没有匹配
}

设 \( n=T.size() \) , \( m=P.size() \) , 显然这个算法的复杂度是 \( O(nm) \) 。

这个算法简单,有效,不容易出错。大部分情况下,暴力求解够用了。在我的 PC 上,算法复杂度带
入参数后, 计算 \( 1e7 \) 以下的算法, 基本可以在1秒内完成。

哈希求解 (RK, Rabin-Carp)

暴力求解里面,内层循环用来匹配每个位置对应的子串是否和模式串匹配。 这个比较过程
是可以优化的。

我们将 a-z 这26个字符映射到 0-25,将字符串当作 26 进制整数进行匹配,就可以高效地
进行模式串 P 的匹配,从而将内层循环去掉。 算法复杂度是 \( O(n) \)

这个算法的缺点是整数可能溢出。解决办法是使用其它哈希方法,例如将字符串哈希为每个
字符的和,但这会造成哈希值冲突,为了解决冲突,需要在哈希值匹配之后,对字符串逐一
比较。如果存在大量哈希冲突,每次都要再对比字串,因此这样的方法最差时间复杂度是
\( O(nm) \) 。实际上除非模式串较大,否则遇到哈希冲突的情况是非常少的。收到
Bloom-filter 算法的启发,我曾同时使用 8 个不同的哈希函数计算匹配哈希值,模式串不
长所以基本不会冲突,速度很快。缺点就是总被人问“你搞的什么鬼”。后来有人改成了KMP
算法,业务上线2年后发现写错了,review 名单里面也有我, 尴尬的很。写错的算法
还不如暴力求解。

BM 算法 (Boyer-Moore)

让我们仔细查看 \( T=abcacabdc \) , \( P=abd \) 情况,尝试使用暴力求解方法对其匹配。

   abcacabdc
1: abd| | |  -- 不匹配
2:  abd | |  -- 不匹配
3:   abd| |  ..
4:    abd |  ..
5:     abd|  -- 不匹配
6:      abd  -- 匹配!

第1轮匹配时,主串出现字符 \( c \) , 并没有再模式串中出现,其实可以直接将模式串后移
到主串的 \( c \) 之后。

第2轮匹配时,模式串 \( d \) 对应 对应主串的 \( a \) ,不匹配,右移1字节。如果知道 \( a \) 再
模式串中最后出现的位置是 0, 那么直接后移2字节,让主串的 \( a \) 直接与模式串的 \( a \)
对正,可以节省很多时间。

坏字符规则

暴力求解中,模式串与主串按照下标顺序从小到大匹配,BM 算法反而从大到小匹配。从模
式串末尾向前倒着匹配,当发现某个字符无法匹配的时候,主串的这个字符就称为
"坏字符"。如上例中的第1轮匹配的 \( c \) ,也如上例中第4轮匹配的最右侧 \( a \) 。

下面这一轮匹配,坏字符 \( c \) 在模式串中不存在, 可以直接将模式串移动到 \( c \) 后面。

abcacabdc
abd
   abd

下面这一轮匹配,坏字符 \( a \) 在模式串中的位置为 0, 可以直接将模式串右移 2 字节,
另模式串的 \( a \) 与主串的坏字符 \( a \) 对正。

abcacabdc
   abd
     abd

实际上,坏字符出现时,我们将模式串右移,直到模式串中最右侧出现坏字符相同的字符,
与主串的坏字符对正。

坏字符规则显然正确,只是,单纯使用坏字符规则还是不够的,
\( T=aaaaaaaaaaaaaaaaaaa \) , \( P=baaa \) 的情况下,使用坏字符规则时,跟暴力求解方法时一
样的。

好后缀规则

好后缀规则与坏字符规则类似。我们观察 \( T=abcacabcbcbacabc \) , \( P=abcabc \) 的匹配。

   v  __
abcacabcbcbacabc
 abbccbc
    abbccbc
      -- --

可以看到 "cabc" 匹配之后,出现了坏字符 \( a \) ,此时不考虑坏字符规则,可以将模式串右
移3字节,令模式串中较前的 "bc" 移动到当前位置后缀 "bc" 处。 如果使用坏字符规则,
最后一个 \( a \) 的位置在右边,还要左移做无用功,只能退化到暴力求解方法。

我们很容易预先理解模式串,了解其后缀与等于后缀的最长前缀位置,出现了坏字
符时,直接将模式串右移,直到模式串中的前缀与已经匹配的好后缀相等的位置。
如果字符串中有多个子串与后缀匹配,就选择最右边的子串。

不难看出目前为止的好后缀规则与坏字符规则相似。

但是,当好后缀在模式串中找不到相同的子串字母移动?象暴力求解一样只右移1字节吗?
这种情况可以观察下图,蓝色部分为模式串中前缀等于后缀的部分。由于好已经匹配的好后
缀在模式串中没有其它对应,退而求其次,右移模式串,直到前缀与后缀相等的位置。

如果模式串中间也出现一个蓝色部分,与其中蓝色的前缀、后缀相等,这时不需要考虑的。因
为即使移动中间蓝色部分到后缀蓝色部分相等,由于匹配的好后缀前提已经没有在模式串中
有其它对应了,即使将蓝色子串对应,最终也找不到好后缀从而再次右移。

BM 算法实现

坏字符规则很容易实现,只要构建一个表,可以查找某个字符在模式串中最后出现的位置即
可。

问题是好后缀规则如何高效实现。

我们引入 \( suffix \) 数组, \( suffix[i] \) 表示长度为 \( i \) 的后缀在模式串中相匹配的另一个
子串的位置。例如 \( P=cabcab \) :

<colgroup><col class="org-left" /><col class="org-right" /><col class="org-right" /><col class="org-left" /></colgroup>
b12false
ab21false
cab30true
bcab4-1false
abcab5-1false

\( suffix \) 数组可以解决好后缀在模式串中有其它匹配的子串的情况。当没有子串与好后缀
匹配时,还需要 \( prefix \) 数组。 \( prefix[i] \) 表示长度为 \( i \) 的后缀与模式串前缀是否
相等。

实现代码如下:


// 字符集大小
const static int kMaxChar = 256;
// 坏字符
vector<int> generate_bad_char(string P) {
    vector<int> bc(kMaxChar);
    fill(bc.begin(), bc.end(), -1); // 初始化
    for (int i = 0; i < P.size(); ++i) {
        bc[P[i]] = i;
    }
    return bc;
}

// 好后缀
void generate_good_suffix(string P, vector<int>&suffix, vector<bool>&prefix) {
    suffix = vector<int>(P.size());
    prefix = vector<bool>(P.size());
    fill(prefix.begin(), prefix.end(), false);
    fill(suffix.begin(), suffix.end(), -1);

    for (int i = 0; i < P.size() - 1; ++i) { // P[0..i] 中有没有后缀匹配
        int j = i;
        int k = 0; // 公共后缀子串的长度
        while (j >= 0 && P[j] == P[P.size() - 1 - k]) {
            // P[j..i] 与 P[...P.size()-1] 匹配
            --j; ++k;
            suffix[k] = j + 1;
        }
        if (j == -1) { // 后缀与前缀匹配 P[0..i] = P[...P.size()-1]
            prefix[k] = true;
        }
    }
}

// j 表示坏字符对应 P 的下标
// m 表示 P.size()
int move_gs(int j, int m, vector<int>suffix, vector<bool>prefix) {
    int k = m - 1 - j; // 好后缀长度
    if (suffix[k] != -1) { // P 中存在其他好后缀匹配
        return j - suffix[k] + 1;
    }
    for (int r = j + 2; r <= m - 1; ++r) {
        // 查找最长匹配的前缀
        if (prefix[m - r]) {
            return r;
        }
        return r;
    }
    // 都没匹配,就直接右移整串
    return m;
}

int bm(string T, string P) {
    if (P.empty()) { // 模式串为空,匹配任意字符串
        return 0;
    }
    if (P.size() > T.size()) { // 模式串比主串还大,肯定不匹配
        return -1; // 不匹配返回 -1
    }

    auto bc = generate_bad_char(P);
    vector<int> suffix;
    vector<bool> prefix;
    generate_good_suffix(P, suffix, prefix);

    int i = 0; // 匹配位置
    while (i <= T.size() - P.size()) {
        int j;
        for (j = P.size()-1; j >= 0; --j) { // 模式串从后往前 P[j] .. P[0]
            if (T[i+j] != P[j]) {
                break; // 找到坏字符 T[i+j]
            }
        }
        if (j < 0) {
            return i; // 没有坏字符,匹配成功
        }
        int x = j - bc[T[i+j]]; // 坏字符是 T[i+j]
        int y = 0;
        if (j < P.size() - 1) { // 存在好后缀
            y = move_gs(j, P.size(), suffix, prefix);
        }
        i = max(x, y);
    }
    return -1;
}

BM 算法的复杂度

BM 的算法复杂度分析很难,Tight Bounds On The Complexity Of The Boyer-Moore
String Maching Algorithm 证明 BM 算法的比较次数上限是 \( 3n \) 。

KMP 算法 (Knuth Morris Pratt)

我从来没有在实际工作中实现过 KMP 算法,倒是有不少人,正好最近看了 KMP 或者红黑树
之后就到面试官职位上显摆,让人手写一个,钥匙最近正好看过倒也不难。 虽然平时没什
么用,但算法对人思维的启发性也是有意义的,因为与其类似的 AC 自动机算法经常要自己
实现。

KMP 算法的思想与 BM 算法类似。它顺序比较模式串,如果遇到坏字符,就向右移动直到前
缀匹配到好前缀。 观察下面的例子。

     v
ababaeabac
ababacd
---
 \ \
  ---
  ababacd

匹配到坏字符 \( e \) 时, \( P \) 的好前缀 \( ababa \) 已经确定匹配了。我们发现:

ababa
  ababa

这个好前缀的前缀与后缀有一个最长的匹配,我们右移 \( P \) 时,可以直接移动到令这个最
长匹配对应。它是最长匹配,移动位数小于它的总是比它差,直接移动到令最长匹配对正就
可以。

实现需要一个 \( next \) 数组,\( next[i] \) 表示 \( P[0..i] \) 的后缀中最长可匹配前缀子串的
下标。 例如字符串 \( P=ababacd \) :

<colgroup><col class="org-left" /><col class="org-right" /><col class="org-right" /><col class="org-left" /></colgroup>
a0-1不存在
ab1-1不存在
aba20P[0] = P[2]
abab31P[0..1] == P[2..3]
ababa42P[0..2] == P[2..4]
ababac51不存在

计算 \( next \) 数组使用的是类似动态规划的方法。

  • \( next[i]=k \) 等价于 \( P[0..k]=P[i-k..i] \) 。此时若 \( P[k+1]=P[i+1] \) , 那么
    \( P[0..k+1]=P[i-k..i+1] \) , 即 \( next[i+1]=k+1 \) 。
  • 若 \( P[k+1]\neq P[i+1] \) ,就要尝试次更短长度的匹配前缀后缀匹配。令 \( m=next[k] \) ,
    \( P[0..m]=P[i-m..i] \) 。若 \( P[m+1]=P[i+1] \) ,那么 \( next[i+1]=m+1 \) 。以此类推。

实现如下:


vector<int> gen_next(string P) {
    vector<int> next(P.size());
    if (P.empty()) {
        return next;
    }

    next[0] = -1;
    int k = -1;
    for (int i = 1; i < P.size(); ++i) {
        while (k != -1 && P[k+1] != P[i]) {
            k = next[k];
        }
        if (P[k+1] == P[i]) {
            ++k;
        }
        next[i] = k;
    }
    return next;
}

int kmp(string T, string P) {
    if (P.empty()) { // 模式串为空,匹配任意字符串
        return 0;
    }
    if (P.size() > T.size()) { // 模式串比主串还大,肯定不匹配
        return -1; // 不匹配返回 -1
    }

    auto next = gen_next(P);
    int j = 0;
    for (int i = 0; i < T.size(); ++i) {
        while (j > 0 && T[i] != P[j]) {
            j = next[j - 1] + 1;
        }
        if (T[i] == P[j]) {
            ++j;
        }
        if (j == P.size()) {
            return i - P.size() + 1;
        }
    }
    return -1;
}

KMP 算法的复杂度不难计算。 \( next \) 数组构建时, while 循环分析有点麻烦。可以这么
想: 每次循环,\( k \) 要么增加1,要么减少。增加的地方只有 \( ++k \) , 在 for 循环中,所
以最多执行 \( m-1 \) 次。 \( k \) 减少是在 while 循环中,因为它最小值 \( -1 \) 后不可能再递
减,所以最多执行 \( m-1 \) 次。 因此计算 \( next \) 数组的时间复杂度时 \( O(m) \) 。

同理,匹配 \( T \) 时复杂度时 \( O(n) \) 。 KMP 的总体时间复杂度时 \( O(n+m) \) 。

03-05 15:33