KMP的原理和代码实现(详细注释|参考多个博客总结|可作为模板)
2014-07-22 15:56
896 查看
KMP算法解决的问题是字符匹配,是由Knuth–Morris–Pratt共同开发出来的,这个算法把字符匹配的时间复杂度缩小到O(m+n),而空间复杂度也只有O(m),n是target的长度,m是pattern的长度,在此算法在发明之前并不是没有如此高效的算法,但是原算法比较复杂。Kmp算法优雅高效,但是实现却不难理解且代码长度很短,是优秀算法设计的典范,值得拿出来仔细分析。
一、原始匹配算法(就是不懂kmp之前自己写的那种比较差的算法= =)
并先来看一个比较原始的匹配算法,对于目的字串target是banananobano,要匹配的字串pattern是nano,的情况,下面是匹配过程,原理很简单,只要先和target字串的第一个字符比较,如果相同就比较下一个,如果不同就把pattern右移一下,之后再从pattern的每一个字符比较,这个算法的运行过程如下图,index表示的每n次匹配的情形,这种匹配的代码也比较容易写,如下面:
#include<iostream>
#include<string>
using namespace std;
int match(const string& target,const string& pattern)
{
int target_length = target.size();
int pattern_length = pattern.size();
int target_index = 0;
int pattern_index = 0;
while(target_index < target_length && pattern_index < pattern_length)
{
if(target[target_index]==pattern[pattern_index])
{
++target_index;
++pattern_index;
}
else
{
target_index -= (pattern_index-1);
pattern_index = 0;
}
}
if(pattern_index = pattern_length)
{
return target_index - pattern_length;
}
else
{
return -1;
}
}
int main()
{
cout<<match("banananobano","nano")<<endl;
return 0;
}
上面的算法进间复杂度是O(pattern_length*target_length),我们主要把时间浪费在什么地方呢,观查index =2那一步,我们已经匹配了3个字符,而第4个字符是不匹配的,这时我们已经匹配的字符序列是nan, 此时如果向右移动一位,那么nan最先匹配的字符序列将是an,这肯定是不能匹配的,之后再右移一位,匹配的是nan最先匹配的序列是n,这是可以匹配的,如果我们事先知道pattern本身的这些信息就不用每次匹配失败后都把target_index回退回去,这种回退就浪费了很多不必要的时间,如果能事先计算出pattern本身的这些性质,那么就可以在失配时直接把pattern移动到下一个可能的位置,把其中根本不可能匹配的过程省略掉,如上表所示我们在index=2时失配,此时就可以直接把pattern移动到index=4的状态,kmp算法就是从此出发。
总的来说(其实是可以忽略上面的话的):为了不一一往后找,我们采用跳的形式
二、kmp算法
1. 覆盖函数(overlay_function)(这个是基础)
覆盖函数所表征的是pattern本身的性质,可以让为其表征的是pattern从左开始的所有连续子串的自我覆盖程度。
比如如下的字串,abaabcaba
于由计数是从0始的,因此覆盖函数的值为0说明有1个匹配,对于从0还是从来开始计数是偏好问题,具体请自行调整,其中-1表示没有覆盖,那么何为覆盖呢,下面比较数学的来看一下定义,比如对于序列
我样要找到一个k,使它满足前
而没有更大的k满足这个条件,就是说要找到尽可能大k,使pattern前k字符与后k字符相匹配,k要尽可能的大,原因是如果有比较大的k存在,而我们选择较小的满足条件的k,那么当失配时,我们就会使pattern向右移动的位置变大,而较少的移动位置是存在匹配的,这样我们就会把可能匹配的结果丢失。比如下面的序列,
在红色部分失配,正确的结果是k=1的情况,把pattern右移4位,如果选择k=0,右移5位则会产生错误。
计算这个overlay函数的方法可以采用递推,可以想象如果对于pattern的前j个字符,如果覆盖函数值为k
则对于pattern的前j+1序列字符,则有如下可能
⑴ pattern[k+1]==pattern[j+1] 此时overlay(j+1)=k+1=overlay(j)+1
⑵ pattern[k+1]≠pattern[j+1] 此时只能在pattern前k+1个子符组所的子串中找到相应的overlay函数,h=overlay(k),如果此时pattern[h+1]==pattern[j+1],则overlay(j+1)=h+1否则重复(2)过程.
2,kmp算法
有了覆盖函数,那么实现kmp算法就是很简单的了,我们的原则还是从左向右匹配,但是当失配发生时,我们不用把target_index向回移动,target_index前面已经匹配过的部分在pattern自身就能体现出来,只要动pattern_index就可以了,当发生在j长度失配时,只要把pattern向右移动j-overlay(j)长度就可以了,如果失配时pattern_index==0,相当于pattern第一个字符就不匹配,这时就应该把target_index加1,向右移动1位就可以了。
下面是具体实现的代码:
三、kmp算法的来源
kmp如此精巧,那么它是怎么来的呢,为什么要三个人合力才能想出来。其实就算没有kmp算法,人们在字符匹配中也能找到相同高效的算法。这种算法,最终相当于kmp算法,只是这种算法的出发点不是覆盖函数,不是直接从匹配的内在原理出发,而使用此方法的计算的覆盖函数过程序复杂且不易被理解,但是一但找到这个覆盖函数,那以后使用同一pattern匹配时的效率就和kmp一样了,其实这种算法找到的函数不应叫做覆盖函数,因为在寻找过程中根本没有考虑是否覆盖的问题。说了这么半天那么这种方法是什么呢,这种方法是就大名鼎鼎的确定的有限自动机(Deterministic
finite state automaton DFA),DFA可识别的文法是3型文法,又叫正规文法或是正则文法,既然可以识别正则文法,那么识别确定的字串肯定不是问题(确定字串是正则式的一个子集)。对于如何构造DFA,是有一个完整的算法,这里不做介绍了。在识别确定的字串时使用DFA实在是大材小用,DFA可以识别更加通用的正则表达式,而用通用的构建DFA的方法来识别确定的字串,那这个overhead就显得太大了。kmp算法的可贵之处是从字符匹配的问题本身特点出发,巧妙使用覆盖函数这一表征pattern自身特点的这一概念来快速直接生成识别字串的DFA,因此对于kmp这种算法,理解这种算法高中数学就可以了,但是如果想从无到有设计出这种算法是要求有比较深的数学功底的,下面是上面的pattern生成的DFA。
红色是失配时的state-conversion的方向。就写到这里,希望能对那些想理解kmp算法的人有些帮助。
下面再补一张比较学术的图
Ref:
An explanation of the algorithm and sample C++ code by David Eppstein
http://www.ics.uci.edu/~eppstein/161/960227.html
一、原始匹配算法(就是不懂kmp之前自己写的那种比较差的算法= =)
并先来看一个比较原始的匹配算法,对于目的字串target是banananobano,要匹配的字串pattern是nano,的情况,下面是匹配过程,原理很简单,只要先和target字串的第一个字符比较,如果相同就比较下一个,如果不同就把pattern右移一下,之后再从pattern的每一个字符比较,这个算法的运行过程如下图,index表示的每n次匹配的情形,这种匹配的代码也比较容易写,如下面:
| 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| b | a | n | a | n | a | n | o | b | a | n | o |
index=0 | X | | | | | | | | | | | |
index=1 | | X | | | | | | | | | | |
index=2 | | | n | a | n | X | | | | | | |
index=3 | | | | X | | | | | | | | |
index=4 | | | | | n | a | n | o | | | | |
index=5 | | | | | | X | | | | | | |
index=6 | | | | | | | n | X | | | | |
index=7 | | | | | | | | X | | | | |
index=8 | | | | | | | | | X | | | |
index=9 | | | | | | | | | | X | | |
index=10 | | | | | | | | | | | n | X |
index=11 | | | | | | | | | | | | X |
#include<string>
using namespace std;
int match(const string& target,const string& pattern)
{
int target_length = target.size();
int pattern_length = pattern.size();
int target_index = 0;
int pattern_index = 0;
while(target_index < target_length && pattern_index < pattern_length)
{
if(target[target_index]==pattern[pattern_index])
{
++target_index;
++pattern_index;
}
else
{
target_index -= (pattern_index-1);
pattern_index = 0;
}
}
if(pattern_index = pattern_length)
{
return target_index - pattern_length;
}
else
{
return -1;
}
}
int main()
{
cout<<match("banananobano","nano")<<endl;
return 0;
}
上面的算法进间复杂度是O(pattern_length*target_length),我们主要把时间浪费在什么地方呢,观查index =2那一步,我们已经匹配了3个字符,而第4个字符是不匹配的,这时我们已经匹配的字符序列是nan, 此时如果向右移动一位,那么nan最先匹配的字符序列将是an,这肯定是不能匹配的,之后再右移一位,匹配的是nan最先匹配的序列是n,这是可以匹配的,如果我们事先知道pattern本身的这些信息就不用每次匹配失败后都把target_index回退回去,这种回退就浪费了很多不必要的时间,如果能事先计算出pattern本身的这些性质,那么就可以在失配时直接把pattern移动到下一个可能的位置,把其中根本不可能匹配的过程省略掉,如上表所示我们在index=2时失配,此时就可以直接把pattern移动到index=4的状态,kmp算法就是从此出发。
总的来说(其实是可以忽略上面的话的):为了不一一往后找,我们采用跳的形式
二、kmp算法
1. 覆盖函数(overlay_function)(这个是基础)
覆盖函数所表征的是pattern本身的性质,可以让为其表征的是pattern从左开始的所有连续子串的自我覆盖程度。
比如如下的字串,abaabcaba
子串 | 值 |
a | -1 |
ab | -1 |
aba | 0 |
abaa | 0 |
abaab | 1 |
abaabc | -1 |
abaabca | 0 |
abaabcab | 1 |
abaabcaba | 2 |
我样要找到一个k,使它满足前
而没有更大的k满足这个条件,就是说要找到尽可能大k,使pattern前k字符与后k字符相匹配,k要尽可能的大,原因是如果有比较大的k存在,而我们选择较小的满足条件的k,那么当失配时,我们就会使pattern向右移动的位置变大,而较少的移动位置是存在匹配的,这样我们就会把可能匹配的结果丢失。比如下面的序列,
target | a | a | b | c | a | a | x | d | n | f | d |
pattern | a | a | b | c | a | a | n | ||||
k=1 | a | a | b | c | a | a | |||||
k=0 | a | a | b | c | a | a |
计算这个overlay函数的方法可以采用递推,可以想象如果对于pattern的前j个字符,如果覆盖函数值为k
则对于pattern的前j+1序列字符,则有如下可能
⑴ pattern[k+1]==pattern[j+1] 此时overlay(j+1)=k+1=overlay(j)+1
⑵ pattern[k+1]≠pattern[j+1] 此时只能在pattern前k+1个子符组所的子串中找到相应的overlay函数,h=overlay(k),如果此时pattern[h+1]==pattern[j+1],则overlay(j+1)=h+1否则重复(2)过程.
#include<iostream> #include<string> using namespace std; void compute_overlay(const string& pattern) { const int pattern_length = pattern.size(); int *overlay_function = new int[pattern_length]; int index; overlay_function[0] = -1;//第一位默认为-1 for(int i=1;i<pattern_length;++i) { index=overlay_function[i-1];//让标记指到当前位的前一位 //根据index的值进行下面的处理 while(index>=0&&pattern[i]!=pattern[index+1]){ //如果index为-1,说明无法继续匹配,跳出 //如果pattern[i]==pattern[index+1],说明目前为最大匹配,跳出 //否则进行如下处理 index=overlay_function[index];//将o_f[index]的匹配情况给index } //跳出后的判断 if(pattern[i]==pattern[index+1]){ //这也就两情况 如果是由于上面index=-1中断的,此时 //o_f[i]就是0; //如果是由于相同而中断的就是则记录index //取得相同的那个pattern时对应的index值 overlay_function[i]=index+1; /* 0 1 2 3 4 5 例如 a b a a b a -1 -1 0 0 1 * 由于是相同中断的(此时index为1)又由于p[i]=p[index+1] 所以[5]的值为2 */ /* 0 1 2 3 4 5 例如 a b a a b c -1 -1 0 0 1 * 由于p[i]!=p[index+1]不同,index=1 index=overlay_function[index(此时为1)] 不满足,跳出循环条件 又因为p[i]!=p[index+1]进行下面的else操作 */ } //如果是由于上面index=-1中断而且连第一个都不匹配,那么只能是-1辣; //这时候不可能是相同中断= =所以只能是-1 else overlay_function[i]=-1; } for(int i2=0;i2<pattern_length;++i2) { cout<<overlay_function[i2]<<endl; } delete[] overlay_function; } int main() { string pattern = "abaabcaba"; compute_overlay(pattern); return 0; }
2,kmp算法
有了覆盖函数,那么实现kmp算法就是很简单的了,我们的原则还是从左向右匹配,但是当失配发生时,我们不用把target_index向回移动,target_index前面已经匹配过的部分在pattern自身就能体现出来,只要动pattern_index就可以了,当发生在j长度失配时,只要把pattern向右移动j-overlay(j)长度就可以了,如果失配时pattern_index==0,相当于pattern第一个字符就不匹配,这时就应该把target_index加1,向右移动1位就可以了。
下面是具体实现的代码:
#include<iostream> #include<string> #include<vector> using namespace std; int kmp_find(const string& target,const string& pattern) { const int target_length = target.size(); const int pattern_length = pattern.size(); int * overlay_value = new int[pattern_length]; overlay_value[0] = -1; int index = 0; //得到匹配值 for(int i=1;i<pattern_length;++i) { index = overlay_value[i-1]; while(index>=0 && pattern[index+1]!=pattern[i]) { index = overlay_value[index]; } if(pattern[index+1]==pattern[i]) { overlay_value[i] = index +1; } else { overlay_value[i] = -1; } } //match algorithm start int pattern_index = 0;//用来小串的移动 int target_index = 0;//用来大串的移动 while(pattern_index<pattern_length&&target_index<target_length) {/* if(target[target_index]==pattern[pattern_index]) { ++target_index; ++pattern_index; } else if(pattern_index==0) { ++target_index; } else { pattern_index = overlay_value[pattern_index-1]+1;//实现跳 }*/ if(target[target_index]==pattern[pattern_index]) {//如果匹配就继续前移 ++target_index; ++pattern_index; } else{//如果不匹配 //这里注意下pattern_index=0的情况 //如果为0,然后上一步又不匹配,那么直接让++target_index; if(pattern_index==0) { ++target_index; } //否则让pattern_index实现跳 else pattern_index = overlay_value[pattern_index-1]+1; } /* string source = "abcabcabd"; string pattern = "abcabd"; a b c a b c a b d a b c a b[值是1] d 移到 这↑的的时候发现不匹配 而 ↑的o_v值是1 所以pattern=1+1=2 继续比较 发现pattern[2]=target[5]继续比较 最后得到结果 就是这么简单 */ } if(pattern_index==pattern_length) { return target_index-pattern_index; } else { return -1; } delete [] overlay_value; } int main() { string source = "abcabcabd"; string pattern = "abcabd"; cout<<kmp_find(source,pattern)<<endl; return 0; }
三、kmp算法的来源
kmp如此精巧,那么它是怎么来的呢,为什么要三个人合力才能想出来。其实就算没有kmp算法,人们在字符匹配中也能找到相同高效的算法。这种算法,最终相当于kmp算法,只是这种算法的出发点不是覆盖函数,不是直接从匹配的内在原理出发,而使用此方法的计算的覆盖函数过程序复杂且不易被理解,但是一但找到这个覆盖函数,那以后使用同一pattern匹配时的效率就和kmp一样了,其实这种算法找到的函数不应叫做覆盖函数,因为在寻找过程中根本没有考虑是否覆盖的问题。说了这么半天那么这种方法是什么呢,这种方法是就大名鼎鼎的确定的有限自动机(Deterministic
finite state automaton DFA),DFA可识别的文法是3型文法,又叫正规文法或是正则文法,既然可以识别正则文法,那么识别确定的字串肯定不是问题(确定字串是正则式的一个子集)。对于如何构造DFA,是有一个完整的算法,这里不做介绍了。在识别确定的字串时使用DFA实在是大材小用,DFA可以识别更加通用的正则表达式,而用通用的构建DFA的方法来识别确定的字串,那这个overhead就显得太大了。kmp算法的可贵之处是从字符匹配的问题本身特点出发,巧妙使用覆盖函数这一表征pattern自身特点的这一概念来快速直接生成识别字串的DFA,因此对于kmp这种算法,理解这种算法高中数学就可以了,但是如果想从无到有设计出这种算法是要求有比较深的数学功底的,下面是上面的pattern生成的DFA。
红色是失配时的state-conversion的方向。就写到这里,希望能对那些想理解kmp算法的人有些帮助。
下面再补一张比较学术的图
Ref:
An explanation of the algorithm and sample C++ code by David Eppstein
http://www.ics.uci.edu/~eppstein/161/960227.html
相关文章推荐
- KMP的原理和代码实现(详细注释|参考多个博客总结|可作为模板)
- 根据Merge Sort原理, 自己实现的归并排序算法+详细注释+代码(C#,C/C++) [分享]
- C/C++实现如下 根据Merge Sort原理, 自己实现的归并排序算法+详细注释+代码(C#,C/C++)
- 根据Merge Sort原理, 自己实现的归并排序算法+详细注释+代码(C#,C/C++) [分享]
- ID3决策树算法原理及C++实现(其中代码转自别人的博客)
- ID3决策树算法原理及C++实现(其中代码转自别人的博客)
- [原创]桓泽学音频编解码(5):MP3 和 AAC 中IMDCT算法的原理,优化设计与参考代码中实现
- PHP和Ajax实现二级联动下拉菜单(代码、详细注释)
- 自己动手实现简易代码生成器、采用文本模板文件生成服务层、服务层接口代码的做法参考
- 新浪微博自动转发评论 源码 按键精灵实现 详细注释 几十行代码实现 涉及图像识别模拟键盘鼠标
- 自己动手实现简易代码生成器、采用文本模板文件生成服务层、服务层接口代码的做法参考
- android开发之蜂鸣提示音和震动提示的实现原理与参考代码
- 【清楚理解后台利用ireport到处报表的原理】ireport制作jasperreport报表详细过程(包括jsp端代码实现)
- PHP 图片上传实现代码 带详细注释
- PageRank的Java代码实现及图形操作(带详细注释)!
- android 开发之蜂鸣提示音和震动提示的实现原理与参考代码
- nginx 作为反向代理实现负载均衡的例子 详细出处参考:http://www.jb51.net/article/25643.htm
- 用Astar(A*)算法 实现的迷宫最短路。代码比较规范,可作为模板
- 自己动手实现简易代码生成器、采用文本模板文件生成服务层、服务层接口代码的做法参考
- 传智博客佟老师jqurey学习笔记,以及例子代码详细注释。