前缀函数与 KMP 算法

字符串前缀和后缀定义

关于字符串前缀、真前缀，后缀、真后缀的定义详见字符串基础

前缀函数

定义

给定一个长度为的字符串，其 前缀函数 被定义为一个长度为的数组。其中的定义是：

如果子串有一对相等的真前缀与真后缀：和，那么就是这个相等的真前缀（或者真后缀，因为它们相等）的长度，也就是；
如果不止有一对相等的，那么就是其中最长的那一对的长度；
如果没有相等的，那么。

简单来说就是，子串最长的相等的真前缀与真后缀的长度。

用数学语言描述如下：

特别地，规定。

过程

举例来说，对于字符串 abcabcd，

，因为 a 没有真前缀和真后缀，根据规定为 0

，因为 ab 无相等的真前缀和真后缀

，因为 abc 无相等的真前缀和真后缀

，因为 abca 只有一对相等的真前缀和真后缀：a，长度为 1

，因为 abcab 相等的真前缀和真后缀只有 ab，长度为 2

，因为 abcabc 相等的真前缀和真后缀只有 abc，长度为 3

，因为 abcabcd 无相等的真前缀和真后缀

同理可以计算字符串 aabaaab 的前缀函数为。

计算前缀函数的朴素算法

过程

一个直接按照定义计算前缀函数的算法流程：

在一个循环中以的顺序计算前缀函数的值（被赋值为）。
为了计算当前的前缀函数值，我们令变量从最大的真前缀长度开始尝试。
如果当前长度下真前缀和真后缀相等，则此时长度为，否则令 j 自减 1，继续匹配，直到。
如果并且仍没有任何一次匹配，则置并移至下一个下标。

实现

具体实现如下：

C++PythonJava

// 注：
// string substr (size_t pos = 0, size_t len = npos) const;
vector<int> prefix_function(string s) {
  int n = (int)s.length();
  vector<int> pi(n);
  for (int i = 1; i < n; i++)
    for (int j = i; j >= 0; j--)
      if (s.substr(0, j) == s.substr(i - j + 1, j)) {
        pi[i] = j;
        break;
      }
  return pi;
}

def prefix_function(s):
    n = len(s)
    pi = [0] * n
    for i in range(1, n):
        for j in range(i, -1, -1):
            if s[0:j] == s[i - j + 1 : i + 1]:
                pi[i] = j
                break
    return pi

static int[] prefix_function(String s) {
    int n = s.length();
    int[] pi = new int[n];
    for (int i = 1; i < n; i++) {
	    for (int j = i; j >= 0; j--) {
		    if (s.substring(0, j).equals(s.substring(i - j + 1, i + 1))) {
			    pi[i] = j;
			    break;
		    }
	    }
    }
    return pi;
}

显见该算法的时间复杂度为，具有很大的改进空间。

计算前缀函数的高效算法

第一个优化

第一个重要的观察是 相邻的前缀函数值至多增加 。

参照下图所示，只需如此考虑：当取一个尽可能大的时，必然要求新增的也与之对应的字符匹配，即 , 此时。

所以当移动到下一个位置时，前缀函数的值要么增加一，要么维持不变，要么减少。

实现

此时的改进的算法为：

C++PythonJava

vector<int> prefix_function(string s) {
  int n = (int)s.length();
  vector<int> pi(n);
  for (int i = 1; i < n; i++)
    for (int j = pi[i - 1] + 1; j >= 0; j--)  // improved: j=i => j=pi[i-1]+1
      if (s.substr(0, j) == s.substr(i - j + 1, j)) {
        pi[i] = j;
        break;
      }
  return pi;
}

def prefix_function(s):
    n = len(s)
    pi = [0] * n
    for i in range(1, n):
        for j in range(pi[i - 1] + 1, -1, -1):
            if s[0:j] == s[i - j + 1 : i + 1]:
                pi[i] = j
                break
    return pi

static int[] prefix_function(String s) {
    int n = s.length();
    int[] pi = new int[n];
    for (int i = 1; i < n; i++) {
	    for (int j = pi[i - 1] + 1; j >= 0; j--) {
		    if (s.substring(0, j).equals(s.substring(i - j + 1, i + 1))) {
			    pi[i] = j;
			    break;
		    }
	    }
    }
    return pi;
}

在这个初步改进的算法中，在计算每个时，最好的情况是第一次字符串比较就完成了匹配，也就是说基础的字符串比较次数是 n-1 次。

而由于存在 j = pi[i-1]+1（pi[0]=0）对于最大字符串比较次数的限制，可以看出每次只有在最好情况才会为字符串比较次数的上限积累 1，而每次超过一次的字符串比较消耗的是之后次数的增长空间。

由此我们可以得出字符串比较次数最多的一种情况：至少 1 次字符串比较次数的消耗和最多 n-2 次比较次数的积累，此时字符串比较次数为 n-1 + n-2 = 2n-3。

可见经过此次优化，计算前缀函数只需要进行次字符串比较，总复杂度降为了。

第二个优化

在第一个优化中，我们讨论了计算时的最好情况：，此时。现在让我们沿着这个思路走得更远一点：讨论当时如何跳转。

失配时，我们希望找到对于子串，仅次于的第二长度，使得在位置的前缀性质仍得以保持，也即：

如果我们找到了这样的长度，那么仅需要再次比较和。如果它们相等，那么就有。否则，我们需要找到子串仅次于的第二长度，使得前缀性质得以保持，如此反复，直到。如果，则。

观察上图可以发现，因为，所以对于的第二长度，有这样的性质：

也就是说等价于子串的前缀函数值，即。同理，次于的第二长度等价于的前缀函数值，

显然我们可以得到一个关于的状态转移方程：

最终算法

所以最终我们可以构建一个不需要进行任何字符串比较，并且只进行次操作的算法。

而且该算法的实现出人意料的短且直观：

实现

C++PythonJava

vector<int> prefix_function(string s) {
  int n = (int)s.length();
  vector<int> pi(n);
  for (int i = 1; i < n; i++) {
    int j = pi[i - 1];
    while (j > 0 && s[i] != s[j]) j = pi[j - 1];
    if (s[i] == s[j]) j++;
    pi[i] = j;
  }
  return pi;
}

def prefix_function(s):
    n = len(s)
    pi = [0] * n
    for i in range(1, n):
        j = pi[i - 1]
        while j > 0 and s[i] != s[j]:
            j = pi[j - 1]
        if s[i] == s[j]:
            j += 1
        pi[i] = j
    return pi

static int[] prefix_function(String s) {
    int n = s.length();
    int[] pi = new int[n];
    for (int i = 1; i < n; i++) {
	    int j = pi[i - 1];
	    while (j > 0 && s.charAt(i) != s.charAt(j)) {
		    j = pi[j - 1];
	    }
	    if (s.charAt(i) == s.charAt(j)) {
		    j++;
	    }
	    pi[i] = j;
    }
    return pi;
}

这是一个在线算法，即其当数据到达时处理它——举例来说，你可以一个字符一个字符的读取字符串，立即处理它们以计算出每个字符的前缀函数值。该算法仍然需要存储字符串本身以及先前计算过的前缀函数值，但如果我们已经预先知道该字符串前缀函数的最大可能取值，那么我们仅需要存储该字符串的前个字符以及对应的前缀函数值。

应用

在字符串中查找子串：Knuth–Morris–Pratt 算法

该算法由 Knuth、Pratt 和 Morris 在 1977 年共同发布^[1]。

该任务是前缀函数的一个典型应用。

过程

给定一个文本和一个字符串，我们尝试找到并展示在中的所有出现（occurrence）。

为了简便起见，我们用表示字符串的长度，用表示文本的长度。

我们构造一个字符串，其中为一个既不出现在中也不出现在中的分隔符。接下来计算该字符串的前缀函数。现在考虑该前缀函数除去最开始个值（即属于字符串和分隔符的函数值）后其余函数值的意义。根据定义，为右端点在且同时为一个前缀的最长真子串的长度，具体到我们的这种情况下，其值为与的前缀相同且右端点位于的最长子串的长度。由于分隔符的存在，该长度不可能超过。而如果等式成立，则意味着完整出现在该位置（即其右端点位于位置）。注意该位置的下标是对字符串而言的。

因此如果在某一位置有成立，则字符串在字符串的处出现。

正如在前缀函数的计算中已经提到的那样，如果我们知道前缀函数的值永远不超过一特定值，那么我们不需要存储整个字符串以及整个前缀函数，而只需要二者开头的一部分。在我们这种情况下这意味着只需要存储字符串以及相应的前缀函数值即可。我们可以一次读入字符串的一个字符并计算当前位置的前缀函数值。

因此 Knuth–Morris–Pratt 算法（简称 KMP 算法）用的时间以及的内存解决了该问题。

实现

C++PythonJava

vector<int> find_occurrences(string text, string pattern) {
  string cur = pattern + '#' + text;
  int sz1 = text.size(), sz2 = pattern.size();
  vector<int> v;
  vector<int> lps = prefix_function(cur);
  for (int i = sz2 + 1; i <= sz1 + sz2; i++) {
    if (lps[i] == sz2) v.push_back(i - 2 * sz2);
  }
  return v;
}

def find_occurrences(t, s):
    cur = s + "#" + t
    sz1, sz2 = len(t), len(s)
    ret = []
    lps = prefix_function(cur)
    for i in range(sz2 + 1, sz1 + sz2 + 1):
        if lps[i] == sz2:
            ret.append(i - 2 * sz2)
    return ret

static List<Integer> find_occurrences(String text, String pattern) {
    String cur = pattern + '#' + text;
    int sz1 = text.length(), sz2 = pattern.length();
    List<Integer> v = new ArrayList<>();
    int[] lps = prefix_function(cur);
    for (int i = sz2 + 1; i <= sz1 + sz2; i++) {
	    if (lps[i] == sz2) {
		    v.add(i - 2 * sz2);
	    }
    }
    return v;
}

字符串的周期

对字符串和，若对所有成立，则称是的周期。

对字符串和，若长度为的前缀和长度为的后缀相等，就称长度为的前缀是的 border。

由有长度为的 border 可以推导出是的周期。

根据前缀函数的定义，可以得到所有的 border 长度，即。²

所以根据前缀函数可以在的时间内计算出所有的周期。其中，由于是最长 border 的长度，所以是的最小周期。

统计每个前缀的出现次数

在该节我们将同时讨论两个问题。给定一个长度为的字符串，在问题的第一个变种中我们希望统计每个前缀在同一个字符串的出现次数，在问题的第二个变种中我们希望统计每个前缀在另一个给定字符串中的出现次数。

首先让我们来解决第一个问题。考虑位置的前缀函数值。根据定义，其意味着字符串一个长度为的前缀在位置出现并以为右端点，同时不存在一个更长的前缀满足前述定义。与此同时，更短的前缀可能以该位置为右端点。容易看出，我们遇到了在计算前缀函数时已经回答过的问题：给定一个长度为的前缀，同时其也是一个右端点位于的后缀，下一个更小的前缀长度是多少？该长度的前缀需同时也是一个右端点为的后缀。因此以位置为右端点，有长度为的前缀，有长度为的前缀，有长度为的前缀，等等，直到长度变为。故而我们可以通过下述方式计算答案。

实现

C++Python

vector<int> ans(n + 1);
for (int i = 0; i < n; i++) ans[pi[i]]++;
for (int i = n - 1; i > 0; i--) ans[pi[i - 1]] += ans[i];
for (int i = 0; i <= n; i++) ans[i]++;

ans = [0] * (n + 1)
for i in range(0, n):
    ans[pi[i]] += 1
for i in range(n - 1, 0, -1):
    ans[pi[i - 1]] += ans[i]
for i in range(0, n + 1):
    ans[i] += 1

解释

在上述代码中我们首先统计每个前缀函数值在数组中出现了多少次，然后再计算最后答案：如果我们知道长度为的前缀出现了恰好次，那么该值必须被叠加至其最长的既是后缀也是前缀的子串的出现次数中。在最后，为了统计原始的前缀，我们对每个结果加。

现在考虑第二个问题。我们应用来自 Knuth–Morris–Pratt 的技巧：构造一个字符串并计算其前缀函数。与第一个问题唯一的不同之处在于，我们只关心与字符串相关的前缀函数值，即的。有了这些值之后，我们可以同样应用在第一个问题中的算法来解决该问题。

一个字符串中本质不同子串的数目

给定一个长度为的字符串，我们希望计算其本质不同子串的数目。

我们将迭代的解决该问题。换句话说，在知道了当前的本质不同子串的数目的情况下，我们要找出一种在末尾添加一个字符后重新计算该数目的方法。

令为当前的本质不同子串数量。我们添加一个新的字符至。显然，会有一些新的子串以字符结尾。我们希望对这些以该字符结尾且我们之前未曾遇到的子串计数。

构造字符串并将其反转得到字符串。现在我们的任务变为计算有多少的前缀未在的其余任何地方出现。如果我们计算了的前缀函数最大值，那么最长的出现在中的前缀其长度为。自然的，所有更短的前缀也出现了。

因此，当添加了一个新字符后新出现的子串数目为。

所以对于每个添加的字符，我们可以在的时间内计算新子串的数目，故最终复杂度为。

值得注意的是，我们也可以重新计算在头部添加一个字符，或者从尾或者头移除一个字符时的本质不同子串数目。

字符串压缩

给定一个长度为的字符串，我们希望找到其最短的「压缩」表示，也即我们希望寻找一个最短的字符串，使得可以被的一份或多份拷贝的拼接表示。

显然，我们只需要找到的长度即可。知道了该长度，该问题的答案即为长度为该值的的前缀。

让我们计算的前缀函数。通过使用该函数的最后一个值，我们定义值。我们将证明，如果整除，那么就是答案，否则不存在一个有效的压缩，故答案为。

假定可被整除。那么字符串可被划分为长度为的若干块。根据前缀函数的定义，该字符串长度为的前缀等于其后缀。但是这意味着最后一个块同倒数第二个块相等，并且倒数第二个块同倒数第三个块相等，等等。作为其结果，所有块都是相等的，因此我们可以将字符串压缩至长度。

证明

诚然，我们仍需证明该值为最优解。实际上，如果有一个比更小的压缩表示，那么前缀函数的最后一个值必定比要大。因此就是答案。

现在假设不可以被整除，我们将通过反证法证明这意味着答案为 ¹。假设其最小压缩表示的长度为（整除），字符串被划分为块。那么前缀函数的最后一个值必定大于（如果等于则可被整除），也即其所表示的后缀将部分的覆盖第一个块。现在考虑字符串的第二个块。该块有两种解释：第一种为，另一种为。由于两种解释对应同一个字符串，因此可得到个方程组成的方程组，该方程组可简写为，其中表示模意义下的最小非负剩余。

根据扩展欧几里得算法我们可以得到一组和使得。通过与等式适当叠加我们可以得到一组和使得。这意味着通过不断应用前述方程组中的方程我们可以得到新的方程组。

由于整除，这意味着是的一个周期。又因为，故有，所以是一个比更小的的周期。因此字符串有一个长度为的压缩表示，同的最小性矛盾。

综上所述，不存在一个长度小于的压缩表示，因此答案为。

根据前缀函数构建一个自动机

让我们重新回到通过一个分隔符将两个字符串拼接的新字符串。对于字符串和我们计算的前缀函数。显然，因为是一个分隔符，前缀函数值永远不会超过。因此我们只需要存储字符串和其对应的前缀函数值，之后就可以动态计算对于之后所有字符的前缀函数值：

实际上在这种情况下，知道的下一个字符以及之前位置的前缀函数值便足以计算下一个位置的前缀函数值，而不需要用到任何其它的字符和对应的前缀函数值。

换句话说，我们可以构造一个 自动机（一个有限状态机）：其状态为当前的前缀函数值，而从一个状态到另一个状态的转移则由下一个字符确定。

因此，即使没有字符串，我们同样可以应用构造转移表的算法构造一个转移表：

实现

void compute_automaton(string s, vector<vector<int>>& aut) {
  s += '#';
  int n = s.size();
  vector<int> pi = prefix_function(s);
  aut.assign(n, vector<int>(26));
  for (int i = 0; i < n; i++) {
    for (int c = 0; c < 26; c++) {
      int j = i;
      while (j > 0 && 'a' + c != s[j]) j = pi[j - 1];
      if ('a' + c == s[j]) j++;
      aut[i][c] = j;
    }
  }
}

然而在这种形式下，对于小写字母表，算法的时间复杂度为。注意到我们可以应用动态规划来利用表中已计算过的部分。只要我们从值变化到，那么我们实际上在说转移所到达的状态同转移一样，但该答案我们之前已经精确计算过了。

实现

void compute_automaton(string s, vector<vector<int>>& aut) {
  s += '#';
  int n = s.size();
  vector<int> pi = prefix_function(s);
  aut.assign(n, vector<int>(26));
  for (int i = 0; i < n; i++) {
    for (int c = 0; c < 26; c++) {
      if (i > 0 && 'a' + c != s[i])
        aut[i][c] = aut[pi[i - 1]][c];
      else
        aut[i][c] = i + ('a' + c == s[i]);
    }
  }
}

最终我们可在的时间复杂度内构造该自动机。

该自动机在什么时候有用呢？首先，记得大部分时候我们为了一个目的使用字符串的前缀函数：寻找字符串在字符串中的所有出现。

因此使用该自动机的最直接的好处是 加速计算字符串的前缀函数。

通过构建的自动机，我们不再需要存储字符串以及其对应的前缀函数值。所有转移已经在表中计算过了。

但除此以外，还有第二个不那么直接的应用。我们可以在字符串是 某些通过一些规则构造的巨型字符串 时，使用该自动机加速计算。Gray 字符串，或者一个由一些短的输入串的递归组合所构造的字符串都是这种例子。

出于完整性考虑，我们来解决这样一个问题：给定一个数，以及一个长度的字符串，我们需要计算在第个 Gray 字符串中的出现次数。回想起 Gray 字符串以下述方式定义：

由于其天文数字般的长度，在这种情况下即使构造字符串都是不可能的：第个 Gray 字符串有个字符。然而我们可以在仅仅知道开头若干前缀函数值的情况下，有效计算该字符串末尾的前缀函数值。

除了自动机之外，我们同时需要计算值：在从状态开始处理后的自动机的状态，以及值：当从状态开始处理后，在中的出现次数。实际上为在执行操作时前缀函数取值为的次数。易得问题的答案为。

我们该如何计算这些值呢？首先根据定义，初始条件为以及。之后所有值可以通过先前的值以及使用自动机计算得到。为了对某个计算相应值，回想起字符串由，字母表中第个字符，以及三者拼接而成。因此自动机会途径下列状态：

的值同样可被简单计算。

其中当其中表达式取值为真时值为，否则为。综上，我们已经可以解决关于 Gray 字符串的问题，以及一大类与之类似的问题。举例来说，应用同样的方法可以解决下列问题：给定一个字符串以及一些模式，其中每个模式以下列方式给出：该模式由普通字符组成，当中可能以的形式递归插入先前的字符串，也即在该位置我们必须插入字符串次。以下是这些模式的一个例子：

递归代入会使字符串长度爆炸式增长，他们的长度甚至可以达到的数量级。而我们必须找到字符串在每个字符串中的出现次数。

该问题同样可通过构造前缀函数的自动机解决。同之前一样，我们利用先前计算过的结果对每个模式计算其转移然后相应统计答案即可。

练习题目

参考资料与注释

本页面主要译自博文 Префикс-функция. Алгоритм Кнута-Морриса-Пратта 与其英文翻译版 Prefix function. Knuth–Morris–Pratt algorithm。其中俄文版版权协议为 Public Domain + Leave a Link；英文版版权协议为 CC-BY-SA 4.0。

在俄文版及英文版中该部分证明均疑似有误。本文章中的该部分证明由作者自行添加。 ↩
金策 - 字符串算法选讲 ↩

最后更新: 2024年5月8日
创建日期: 2018年8月6日