KMP专题

【KMP算法详解——适合初学KMP算法的朋友】

2010-10-27 16:22:33

标签：KMP 详解 初学 休闲 职场

原创作品，允许转载，转载时请务必以超链接形式标明文章 原始出处 、作者信息和本声明。否则将追究法律责任。http://billhoo.blog.51cto.com/2337751/411486

相信很多人（包括自己）初识KMP算法的时候始终是丈二和尚摸不着头脑，要么完全不知所云，要么看不懂书上的解释，要么自己觉得好像心里了解KMP算法的意思，却说不出个究竟，所谓知其然不知其所以然是也。
经过七八个小时地仔细研究，终于感觉自己能说出其所以然了，又觉得数据结构书上写得过于简洁，不易于初学者接受，于是决定把自己的理解拿出来与大家分享，希望能抛砖引玉，这便是Bill写这篇文章想要得到的最好结果了
-----------------------------------谨以此文，献给刚接触KMP算法的朋友，定有不足之处，望大家指正----------------------------------------



【KMP算法简介】

KMP算法是一种改进后的字符串匹配算法，由D.E.Knuth与V.R.Pratt和J.H.Morris同时发现，因此人们称它为克努特——莫里斯——普拉特操作（简称KMP算法）。通过一个辅助函数实现跳过扫描不必要的目标串字符，以达到优化效果。



【传统字符串匹配算法的缺憾】
Bill认为，对于一种优化的算法，既要知道优化的细节，也更应该了解它的前身（至于KMP是否基于传统算法，我不清楚，这里只作语境上的前身），了解是什么原因导致了人们要去优化它，因此加入了这一段：
请看以下传统字符串匹配的代码：
C++ code



void NativeStrMatching( ElemType Target[], ElemType Pattern[] )

{

register int TarLen = 0; // Length of Target

register int PatLen = 0; // Length of Pattern



// Compute the length of Pattern

while( '\0' != Pattern[PatLen] )

PatLen++;



while( '\0' != Target[TarLen] )

{

int TmpTarLen = TarLen;

for(int i=0; i<PatLen; i++)

{

if( Target[TmpTarLen++] != Pattern[i] )

break;

if( i == PatLen-1 )

cout<<"Native String Matching,pattern occurs with shift "<<TarLen<<endl;

}

TarLen++;

}

}


【代码思想】
传统匹配思想是，从目标串Target的第一个字符开始扫描，逐一与模式串的对应字符进行匹配，若该组字符匹配，则检测下一组字符，如遇失配，则退回到Target的第二个字符，重复上述步骤，直到整个Pattern在Target中找到匹配，或者已经扫描完整个目标串也没能够完成匹配为止。
这样的算法理解起来很简单，实现起来也容易，但是其中包含了过多不必要的操作，也就是在目标串中，有些字符是可以直接跳过，不必检测的。
不妨假设我们的目标串
Target = "a b c d e a b c d e a b c d f"
需要匹配的模式串
Pattern = "c d f";
那么当匹配到如下情况时









由于 'e' != 'f' ，因此失配，那么下次匹配起始位置就是目标串的'd'字符









我们发现这里照样失配，直到运行到下述情况










也就是说，中间的四个字符 d e a b 完全没有必要检测，直接跳转到下一个'c'开始的地方进行检测

由此可见传统算法虽然简单易行，但其中包含了过多的不必要操作，并不能很好地达到实际工作中需要的效率，因此个人认为此方法适合为初识字符串匹配做一个铺垫作用，有抛砖引玉之意。
说其抛砖引玉并不为过，对KMP算法的理解便可以基于传统模式串匹配算法进行思考。



【KMP算法的引入】

既然知道了传统算法的不足之处，就要对症下药，优化这个冗余的检测算法。
KMP算法就能很好地解决这个冗余问题。
其主要思想为：
在失配后，并不简单地从目标串下一个字符开始新一轮的检测，而是依据在检测之前得到的有用信息（稍后详述），直接跳过不必要的检测，从而达到一个较高的检测效率。
如我们的





当第一次失配后，并不从红色标记字符'd'开始检测，而是通过一些有用信息，直接跳过后几个肯定不可能匹配的冗余字符，而直接让模式串Pattern从目标串的红色标记字符'c'开始新一轮的检测，从而达到了减少循环次数的效果



【KMP算法思想详述与实现】

前面提到，KMP算法通过一个“有用信息”可以知道目标串中下一个字符是否有必要被检测，这个“有用信息”就是用所谓的“前缀函数（一般数据结构书中的next函数）”来存储的。
这个函数能够反映出现失配情况时，系统应该跳过多少无用字符（也即模式串应该向右滑动多长距离）而进行下一次检测，在上例中，这个距离为4.
总的来讲，KMP算法有2个难点：
一是这个前缀函数的求法。
二是在得到前缀函数之后，怎么运用这个函数所反映的有效信息避免不必要的检测。
下面分为两个板块分别详述：


【前缀函数的引入及实现】

【前缀函数的引入】
对于前缀函数，先要理解前缀是什么：
简单地说，如字符串A = "abcde" B = "ab"
那么就称字符串B为A的前缀，记为B ⊏ A(注意那不是"包含于"，Bill把它读作B前缀于A)，说句题外话——"⊏"这个符号很形象嘛，封了口的这面相当于头，在头前面的就是前缀了。
同理可知 C = "e","de" 等都是 A 的后缀，以为C ⊐ A（Bill把它读作C后缀于A）

理解了什么是前、后缀，就来看看什么是前缀函数：
在这里不打算引用过多的理论来说明，直接引入实例会比较容易理解，看如下示例：




(下述字符若带下标，则对应于图中画圈字符)
这里模式串 P = “ababaca”,在匹配了 q=5 个字符后失配，因此，下一步就是要考虑将P向右移多少位进行新的一轮匹配检测。传统模式中，直接将P右移1位，也就是将P的首字符'a'去和目标串的'b'字符进行检测，这明显是多余的。通过我们肉眼的观察，可以很简单的知道应该将模式串P右移到下图'a3'处再开始新一轮的检测，直接跳过肯定不匹配的字符'b'，那么我们“肉眼”观察的这一结果怎么把它用语言表示出来呢？




我们的观察过程是这样的：
P的前缀"ab"中'a' != 'b'，又因该前缀已经匹配了T中对应的"ab"，因此，该前缀的字符'a1'肯定不会和T中对应的字串"ab"中的'b'匹配，也就是将P向右滑动一个位移是无意义的。
接下来考察P的前缀"aba"，发现该前缀自身的前缀'a1'与自身后缀'a2'相等，"a1 b a2" 已经匹配了T中的"a b a3"，因此有 'a2' == 'a3', 故得到 'a1' == 'a3'......
利用此思想，可推知在已经匹配 q=5 个字符的情况下，将P向右移 当且仅当 2个位移时，才能满足既没有冗余(如把'a'去和'b'比较)，又不会丢失(如把'a1' 直接与 'a4' 开始比较，则丢失了与'a3'的比较)。
而前缀函数就是这样一种函数，它决定了q与位移的一一对应关系，通过它就可以间接地求得位移s。

通过对各种模式串进行上述分析(大家可以自己多写几个模式串出来自己分析理解)，发现给定一个匹配字符数 q ，则唯一对应一个有效位移，如上述q=5,则对应位移为2.
这就形成了一一对应关系，而这种唯一的关系就是由前缀函数决定的。
这到底是怎样的一种关系呢？
通过对诸多模式串实例的研究，我们会找到一个规律（规律的证明及引理详见《算法导论(第二版)》）。
上例中，P 已经匹配的字符串为"ababa",那么这个字符串中，满足既是自身真后缀(即不等于自身的后缀)，又是自身最长前缀的字符串为"aba"，我们设这个特殊字串的长度为L，显然，L = 3. 故我们要求的 s = q - L = 5 - 3 = 2 ，满足前述分析。

根据这个规律，即可得到我们要求的有效位移s，等于已经匹配的字符数 q 减去长度 L。
即 s = q - L
因为这个长度 L 与 q 一一对应，决定于q，因此用一函数来表达这一关系非常恰当，这就是所谓的前缀函数了。
因为已经分析得到该关系为一一对应关系，因此用数组来表示该函数是比较恰当的，以数组的下标表示已经匹配的字符数 q，以下标对应的数据存储 L。

【前缀函数的实现】
下面就来分析怎么用代码来表达这种关系。
这里采用《算法导论(第二版)》中的思想求解。
不妨以 PrefixFunc[] 表示这个前缀函数，那么我们将得到以下求前缀函数的函数：
由于 0 个匹配字符数在计算中没有意义，因此PrefixFunc下标从1开始，也就是从已经有一个字符(即首字符)匹配的情况开始
C++ code


// Compute Prefix function

void CptPfFunc( ElemType Pattern[], int PrefixFunc[] )

{
register int iLen = 0; // Length of Pattern[]

while( '\0' != Pattern[iLen] )

iLen++;



int LOLP = 0; // Lenth of longest prefix

PrefixFunc[1] = 0;



for( int NOCM=2; NOCM<iLen+1; NOCM++ ) // NOCM represent the number of characters matched

{

while( LOLP>0 && (Pattern[LOLP] != Pattern[NOCM-1]) )

LOLP = PrefixFunc[LOLP];

if( Pattern[LOLP] == Pattern[NOCM-1] )

LOLP++;

PrefixFunc[NOCM] = LOLP;

}

}






对此函数的详解，不妨以一实例带入(建议大家自己手算一下，算完应该就有感觉了)，易于理解：

不妨设模式串Pattern = "a b c c a b c c a b c a"
Pattern 数组编号： 0 1 2 3 4 5 6 7 8 9 10 11
NOCM 表示 已经匹配的字符数
LOLP 表示 既是自身真后缀又是自身最长前缀的字符串长度
以下是计算流程：
PrefixFunc[1] = 0； //只匹配一个字符就失配时，显然该值为零
LOLP = 0； NOCM = 2； LOLP = 0; PrefixFunc[2] = 0;
LOLP = 0； NOCM = 3； LOLP = 0; PrefixFunc[3] = 0;
LOLP = 0； NOCM = 4； LOLP = 0; PrefixFunc[4] = 0;
LOLP = 0； NOCM = 5； LOLP = 1; PrefixFunc[5] = 1;
LOLP = 1； NOCM = 6； LOLP = 2; PrefixFunc[6] = 2;
LOLP = 2； NOCM = 7； LOLP = 3; PrefixFunc[7] = 3;
LOLP = 3； NOCM = 8； LOLP = 4; PrefixFunc[8] = 4;
LOLP = 4； NOCM = 9； LOLP = 5; PrefixFunc[9] = 5;
LOLP = 5； NOCM = 10； LOLP = 6; PrefixFunc[10] = 6;
LOLP = 6； NOCM = 11； LOLP = 7; PrefixFunc[11] = 7;
LOLP = 7； NOCM = 12；

---------此时满足条件while( LOLP>0 && (Pattern[LOLP] != Pattern[NOCM-1]) )-------------

while语句中的执行
{
LOLP = 7; NOCM = 12; LOLP = PrefixFunc[7] = 3;
LOLP = 3; NOCM = 12; LOLP = PrefixFunc[3] = 0;
}

LOLP = 0； NOCM = 12； LOLP = 1; PrefixFunc[12] = 1;
最后我们的前缀函数 PrefixFunc[] = { 0,0,0,0,1,2,3,4,5,6,7,1 }
其间最精妙的要属失配时的操作
while( LOLP>0 && (Pattern[LOLP] != Pattern[NOCM-1]) )

LOLP = PrefixFunc[LOLP];
其中 LOLP = PrefixFunc[LOLP]; 递归调用PrefixFunc函数，直到整个P字串都再无最长前缀或者找到一个之前的满足条件的最长前缀。




【应用前缀函数优化传统匹配算法——KMP算法实现】
由以上分析，不难推导KMP算法的实现
C++ code

void KMPstrMatching( ElemType Target[], ElemType Pattern[] )

{

int PrefixFunc[MAX_SIZE];

register int TarLen = 0;

register int PatLen = 0;



// Compute the length of array Target and Pattern

while( '\0' != Target[TarLen] )

TarLen++;



while( '\0' != Pattern[PatLen] )

PatLen++;



// Compute the prefix function of Pattern

CptPfFunc( Pattern, PrefixFunc );



int NOCM = 0; // Number of characters matched



for( int i=0; i<TarLen; i++ )

{

while( NOCM>0 && Pattern[NOCM] != Target[i] )

NOCM = PrefixFunc[NOCM];

if( Pattern[NOCM] == Target[i] )

NOCM++;

if( NOCM == PatLen )

{

cout<<"KMP String Matching,pattern occurs with shift "<<i - PatLen + 1<<endl;

NOCM = PrefixFunc[NOCM];

}

}

}


/*
** 由于时间关系，没能将上述KMP算法的实现细节一一讲清，以后有时间补上
*/
【参考文献】
《Introduction to Algorithms》Second Edition



by Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest and Clifford .

本文出自 “Bill_Hoo专栏” 博客，请务必保留此出处http://billhoo.blog.51cto.com/2337751/411486

例题：

1、

poj 2752 Seek the Name, Seek the Fame (KMP)

分类： poj KMP2013-10-03
17:53 377人阅读 评论(0) 收藏 举报

poj
2751KMP

题目链接: poj
2752

题目大意: 给出字符串，找出所有的前缀和后缀相等的子串
按小到大输出这些子串的长度

解题思路:



如图所示，根据next[ ]前缀的性质左边有颜色部分和右边有颜色部分完全相等
因为左边的红色和右边的红色相等，如果左边的红色和左边的绿色相等，则左边的红色必定与右边的绿色相等

既左红+左蓝+左绿和左绿是我们要求的子串
根据这个规律不断地递推下去，所有的子串都可以求出来

代码:

[cpp] view
plaincopy

//Final KMP变形，找出所有字符串的子串的长度，子串满足既是前缀又是后缀(可以重叠)

#include <stdio.h>

#include <string.h>

#define MAX 410000

char ch[MAX];

int Tlen,next[MAX],ans[MAX];



void Get_next() //求字符串的next[]前缀数组

{

int i=0,j=-1;

next[0]=-1;

while(i<Tlen)

{

if(j==-1||ch[i]==ch[j])

{

i++; j++;

next[i]=j;

}

else

j=next[j];

}

}



int main()

{

int i,n;

while(scanf("%s",ch)!=EOF)

{

n=0;

Tlen=strlen(ch);

memset(next,0,sizeof(next));

Get_next();

ans[0]=Tlen; //本身也是

n=0; i=Tlen;

while(next[i]>0) //根据next[]性质求出所有满足题意的长度

{

ans[++n]=next[i];

i=next[i];

}

for(i=n;i>=0;i--)

{

printf("%d",ans[i]);

if(i!=0)

printf(" ");

}

printf("\n");

}

return 0;

}

2、hdu 4763 Theme Section(KMP)

分类： hdu KMP2013-10-03
19:11 305人阅读 评论(0) 收藏 举报

hdu
4763KMP

题目链接: hdu 4763

题目大意: 找出字符串的最长子串，这个子串满足既是前缀和后缀，并且在中间会出现

解题思路: 不妨先找出所有前缀等于后缀的子串长度(poj
2752 解题报告)

从长到短(长度不大于主串的1/3)枚举子串的长度

前缀等于后缀的子串长度为ans[ i ]

根据next[ ]的性质，中间再次出现这个串的话，那么next[ ]数组的值必会等于ans[ i ]

中间会出现长度依然等于ans[ i ]的子串的nex[ ]t区间必定在[2*ans[ i ]，Tlen-ans[ i ]]

代码:

[cpp] view
plaincopy

//Final KMP变形，poj 2752升级版，找出所有字符串的最长子串，这个子串满足既是前缀又是后缀，并且中间也出现(不可以重叠)

#include <stdio.h>

#include <string.h>

#define MAX 1000010

char ch[MAX];

int Tlen,next[MAX],ans[MAX];



void Get_next() //求字符串的next[]前缀数组

{

int i=0,j=-1;

next[0]=-1;

while(i<Tlen)

{

if(j==-1||ch[i]==ch[j])

{

i++; j++;

next[i]=j;

}

else

j=next[j];

}

}



int main()

{

int i,j,n,k,kk,pd,t;

scanf("%d",&t);

while(t--)

{

scanf("%s",ch);

Tlen=strlen(ch);

memset(next,0,sizeof(next));

Get_next();

ans[0]=Tlen; //本身也是

n=0; i=Tlen;

while(next[i]>0) //根据next[]性质求出所有满足题意的长度

{

ans[++n]=next[i];

i=next[i];

}

k=Tlen/3; //子串的长度最长是主串的1/3

pd=0;

for(i=0;i<=n;i++) //子串长度从长到短枚举

{

if(ans[i]>k) //子串的长度必定会小于或等于Tlen/3

continue;

else

{

kk=Tlen-ans[i];

for(j=ans[i]+ans[i];j<=kk;j++) //根据next[]的性质从区间[2*ans[i],Tlen-ans[i]]寻找

{

if(next[j]==ans[i])

{

pd=1;

break;

}

}

}

if(pd==1)

{

printf("%d\n",ans[i]);

break;

}

}

if(pd==0)

printf("%d\n",0);

}

return 0;

}

--------------------------------------------------------------------------------------------------------------------------------
My Code：

#include<stdio.h>

#include<string.h>

char s[1000011];

int next[1000011],ans[1000011],len;

void get()

{

int i,nocm;

i=0;

next[1]=0;

for(nocm=2;nocm<=len;nocm++)

{

while(i>0&&s[i]!=s[nocm-1])

i=next[i];

if(s[i]==s[nocm-1])

i++;

next[nocm]=i;

}

}

int main()

{

int n,i,j,fg,cas;

while(scanf("%d",&cas)!=EOF)

{

while(cas--)

{

scanf("%s",s);

len=strlen(s);

get();

ans[0]=len;

i=len;

n=0;

while(next[i]>0)

{

ans[++n]=next[i];

i=next[i];

}

fg=0;

for(i=1;i<=n;i++)

{

if(ans[i]>len/3)

continue;

else

{

for(j=2*ans[i];j<=len-ans[i];j++)

{

if(next[j]==ans[i])

{

fg=1;

break;

}

}

}

if(fg)

{

printf("%d\n",ans[i]);

break;

}

}

if(fg==0)

printf("0\n");

}

}

return 0;

}