Shell正则表达式 & Grep正则表达式 & shell字符串处理

一个正则表达式就是由普通字符（例如字符 a 到 z）以及特殊字符（称为元字符）组成的文字模式。该模式描述在查找文字主体时待匹配的一个或多个字符串。正则表达式作为一个模板，将某个字符模式与所搜索的字符串进行匹配。

/

将下一个字符标记为一个特殊字符、或一个原义字符、或一个 后向引用、或一个八进制转义符。例如，'n' 匹配字符 "n"。'/n' 匹配一个换行符。序列 '//' 匹配 "/" 而 "/(" 则匹配 "("。
^

匹配输入字符串的开始位置。
$

匹配输入字符串的结束位置。
*

匹配前面的子表达式零次或多次。例如，zo* 能匹配 "z" 以及 "zoo"。 * 等价于{0,}。
+

匹配前面的子表达式一次或多次。例如，'zo+' 能匹配 "zo" 以及 "zoo"，但不能匹配 "z"。+ 等价于 {1,}。
?

匹配前面的子表达式零次或一次。例如，"do(es)?" 可以匹配 "do" 或 "does" 中的"do" 。? 等价于 {0,1}。
{n}

n 是一个非负整数。匹配确定的 n 次。例如，'o{2}' 不能匹配 "Bob" 中的 'o'，但是能匹配 "food" 中的两个 o。
{n,}

n 是一个非负整数。至少匹配n 次。例如，'o{2,}' 不能匹配 "Bob" 中的 'o'，但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。
{n,m}

m 和 n 均为非负整数，其中n <= m。最少匹配 n 次且最多匹配 m 次。 "o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。
?

当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串 "oooo"，'o+?' 将匹配单个 "o"，而 'o+' 将匹配所有 'o'。
.

匹配除 "/n" 之外的任何单个字符。要匹配包括 '/n' 在内的任何字符，请使用象 '[./n]' 的模式。
(pattern)

匹配pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到，在VBScript 中使用 SubMatches 集合，在Visual Basic Scripting Edition 中则使用 $0…$9 属性。要匹配圆括号字符，请使用 '/(' 或 '/)'。
(?:pattern)

匹配 pattern 但不获取匹配结果，也就是说这是一个非获取匹配，不进行存储供以后使用。这在使用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。例如， 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。
(?=pattern)

正向预查，在任何匹配 pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如， 'Windows (?=95|98|NT|2000)' 能匹配 "Windows 2000" 中的 "Windows" ，但不能匹配 "Windows 3.1" 中的 "Windows"。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。
(?!pattern)

负向预查，在任何不匹配Negative lookahead matches the search string at any point where a string not matching pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如'Windows (?!95|98|NT|2000)' 能匹配 "Windows 3.1" 中的 "Windows"，但不能匹配 "Windows 2000" 中的 "Windows"。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。
x|y

匹配 x 或 y。例如，'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。
[xyz]

字符集合。匹配所包含的任意一个字符。例如， '[abc]' 可以匹配 "plain" 中的 'a'。
[^xyz]

负值字符集合。匹配未包含的任意字符。例如， '[^abc]' 可以匹配 "plain" 中的'p'。
[a-z]

字符范围。匹配指定范围内的任意字符。例如，'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。
[^a-z]

负值字符范围。匹配任何不在指定范围内的任意字符。例如，'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。
/b

匹配一个单词边界，也就是指单词和空格间的位置。例如， 'er/b' 可以匹配"never" 中的 'er'，但不能匹配 "verb" 中的 'er'。
/B

匹配非单词边界。'er/B' 能匹配 "verb" 中的 'er'，但不能匹配 "never" 中的 'er'。
/cx

匹配由x指明的控制字符。例如， /cM 匹配一个 Control-M 或回车符。 x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 'c' 字符。
/d

匹配一个数字字符。等价于 [0-9]。
/D

匹配一个非数字字符。等价于 [^0-9]。
/f

匹配一个换页符。等价于 /x0c 和 /cL。
/n

匹配一个换行符。等价于 /x0a 和 /cJ。
/r

匹配一个回车符。等价于 /x0d 和 /cM。
/s

匹配任何空白字符，包括空格、制表符、换页符等等。等价于 [ /f/n/r/t/v]。
/S

匹配任何非空白字符。等价于 [^ /f/n/r/t/v]。
/t

匹配一个制表符。等价于 /x09 和 /cI。
/v

匹配一个垂直制表符。等价于 /x0b 和 /cK。
/w

匹配包括下划线的任何单词字符。等价于'[A-Za-z0-9_]'。
/W

匹配任何非单词字符。等价于 '[^A-Za-z0-9_]'。
/xn

匹配 n，其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如， '/x41' 匹配 "A"。'/x041' 则等价于 '/x04' & "1"。正则表达式中可以使用 ASCII 编码。.
/num

匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。例如，'(.)/1' 匹配两个连续的相同字符。
/n

标识一个八进制转义值或一个后向引用。如果 /n 之前至少 n 个获取的子表达式，则 n 为后向引用。否则，如果 n 为八进制数字 (0-7)，则 n 为一个八进制转义值。
/nm

标识一个八进制转义值或一个后向引用。如果 /nm 之前至少有is preceded by at least nm 个获取得子表达式，则 nm 为后向引用。如果 /nm 之前至少有 n 个获取，则 n 为一个后跟文字 m 的后向引用。如果前面的条件都不满足，若 n 和 m 均为八进制数字 (0-7)，则 /nm 将匹配八进制转义值 nm。
/nml

如果 n 为八进制数字 (0-3)，且 m 和 l 均为八进制数字 (0-7)，则匹配八进制转义值 nml。
/un

匹配 n，其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如， /u00A9 匹配版权符号 (?)。
Grep正则表达式
要用好grep这个工具，其实就是要写好正则表达式，所以这里不对grep的所有功能进行实例讲解，只列几个例子，讲解一个正则表达式的写法。
$ ls -l | grep '^a'

通过管道过滤ls -l输出的内容，只显示以a开头的行。
$ grep 'test' d*

显示所有以d开头的文件中包含test的行。
$ grep 'test' aa bb cc

显示在aa，bb，cc文件中匹配test的行。
$ grep '[a-z]/{5/}' aa

显示所有包含每个字符串至少有5个连续小写字符的字符串的行。
$ grep 'w/(es/)t.*/1' aa

如果west被匹配，则es就被存储到内存中，并标记为1，然后搜索任意个字符（.*），这些字符后面紧跟着另外一个es（/1），找到就显示该行。如果用egrep或grep -E，就不用"/"号进行转义，直接写成'w(es)t.*/1'就可以了。
grep正则表达式元字符集（基本集）

^

锚定行的开始 如：'^grep'匹配所有以grep开头的行。
$

锚定行的结束 如：'grep$'匹配所有以grep结尾的行。
.

匹配一个非换行符的字符 如：'gr.p'匹配gr后接一个任意字符，然后是p。
*

匹配零个或多个先前字符 如：'*grep'匹配所有一个或多个空格后紧跟grep的行。 .*一起用代表任意字符。
[]

匹配一个指定范围内的字符，如'[Gg]rep'匹配Grep和grep。
[^]

匹配一个不在指定范围内的字符，如：'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头，紧跟rep的行。
/(../)

标记匹配字符，如'/(love/)'，love被标记为1。
/<

锚定单词的开始，如:'/

/>

锚定单词的结束，如'grep/>'匹配包含以grep结尾的单词的行。
x/{m/}

重复字符x，m次，如：'0/{5/}'匹配包含5个o的行。
x/{m,/}

重复字符x,至少m次，如：'o/{5,/}'匹配至少有5个o的行。
x/{m,n/}

重复字符x，至少m次，不多于n次，如：'o/{5,10/}'匹配5--10个o的行。
/w

匹配文字和数字字符，也就是[A-Za-z0-9]，如：'G/w*p'匹配以G后跟零个或多个文字或数字字符，然后是p。
/W

/w的反置形式，匹配一个或多个非单词字符，如点号句号等。
/b

单词锁定符，如: '/bgrepb/'只匹配grep。
grep命令是linux下的行过滤工具，其参数繁多，下面就一一介绍个个参数的作用，希望对大家有所帮助。

grep -- print lines matching a pattern (将符合样式的该行列出)

◎语法: grep [options]

PATTERN [FILE...]

grep用以在file内文中比对相对应的部分，或是当没有指定档案时，

由标准输入中去比对。 在预设的情况下，grep会将符合样式的那一行列出。

此外，还有两个程序是grep的变化型，egrep及fgrep。

其中egrep就等同于grep -E ，fgrep等同于grep -F 。

◎参数

1. -A NUM，--after-context=NUM

除了列出符合行之外，并且列出后NUM行。



ex: $ grep -A 1 panda file

(从file中搜寻有panda样式的行，并显示该行的后1行)



2. -a或--text

grep原本是搜寻文字文件，若拿二进制的档案作为搜寻的目标，

则会显示如下的讯息: Binary file 二进制文件名 matches 然后结束。



若加上-a参数则可将二进制档案视为文本文件搜寻，

相当于--binary-files=text这个参数。



ex: (从二进制档案mv中去搜寻panda样式)

(错误!!!)

$ grep panda mv

Binary file mv matches

(这表示此档案有match之处，详见--binary-files=TYPE )

$

(正确!!!)

$ grep -a panda mv



3. -B NUM，--before-context=NUM

与 -A NUM 相对，但这此参数是显示除符合行之外

并显示在它之前的NUM行。



ex: (从file中搜寻有panda样式的行，并显示该行的前1行)

$ grep -B 1 panda file

4. -C [NUM], -NUM, --context[=NUM]

列出符合行之外并列出上下各NUM行，默认值是2。



ex: (列出file中除包含panda样式的行外并列出其上下2行)

(若要改变默认值，直接改变NUM即可)

$ grep -C[NUM] panda file



5. -b, --byte-offset

列出样式之前的内文总共有多少byte ..



ex: $ grep -b panda file

显示结果类似于:

0:panda

66:pandahuang

123:panda03



6. --binary-files=TYPE

此参数TYPE预设为binary(二进制)，若以普通方式搜寻，只有2种结果:

1.若有符合的地方：显示Binary file 二进制文件名 matches

2.若没有符合的地方：什么都没有显示。



若TYPE为without-match，遇到此参数，

grep会认为此二进制档案没有包含任何搜寻样式，与-I 参数相同。



若TPYE为text, grep会将此二进制文件视为text档案，与-a 参数相同。



Warning: --binary-files=text 若输出为终端机，可能会产生一些不必要的输出。



7. -c, --count

不显示符合样式行，只显示符合的总行数。

若再加上-v,--invert-match，参数显示不符合的总行数。

8. -d ACTION, --directories=ACTION

若输入的档案是一个资料夹，使用ACTION去处理这个资料夹。

预设ACTION是read(读取)，也就是说此资料夹会被视为一般的档案；

若ACTION是skip(略过)，资料夹会被grep略过：

若ACTION是recurse(递归)，grep会去读取资料夹下所有的档案，

此相当于-r 参数。

9. -E, --extended-regexp

采用规则表示式去解释样式。

10. -e PATTERN, --regexp=PATTERN

把样式做为一个partern，通常用在避免partern用-开始。

11. -f FILE, --file=FILE

事先将要搜寻的样式写入到一个档案，一行一个样式。

然后采用档案搜寻。

空的档案表示没有要搜寻的样式，因此也就不会有任何符合。

ex: (newfile为搜寻样式文件)

$grep -f newfile file

12. -G, --basic-regexp

将样式视为基本的规则表示式解释。(此为预设)

13. -H, --with-filename

在每个符合样式行前加上符合的文件名称，若有路径会显示路径。

ex: (在file与testfile中搜寻panda样式)

$grep -H panda file ./testfile

file:panda

./testfile:panda

$

14. -h, --no-filename

与-H参数相类似，但在输出时不显示路径。

15. --help

产生简短的help讯息。

16. -I

grep会强制认为此二进制档案没有包含任何搜寻样式，

与--binary-files=without-match参数相同。

ex: $ grep -I panda mv

17. -i, --ignore-case

忽略大小写，包含要搜寻的样式及被搜寻的档案

ex: $ grep -i panda mv

18. -L, --files-without-match

不显示平常一般的输出结果，反而显示出没有符合的文件名称。

19. -l, --files-with-matches

不显示平常一般的输出结果，只显示符合的文件名称。

20. --mmap

如果可能，使用mmap系统呼叫去读取输入，而不是预设的read系统呼叫。

在某些状况，--mmap 能产生较好的效能。 然而，--mmap

如果运作中档案缩短，或I/O 错误发生时，

可能造成未定义的行为(包含core dump)，。

21. -n, --line-number

在显示行前，标上行号。

ex: $ grep -n panda file

显示结果相似于下:

行号:符合行的内容

22. -q, --quiet, --silent

不显示任何的一般输出。请参阅-s或--no-messages

23. -r, --recursive

递归地，读取每个资料夹下的所有档案，此相当于 -d recsuse 参数。

24. -s, --no-messages

不显示关于不存在或无法读取的错误讯息。



小注: 不像GNU grep，传统的grep不符合POSIX.2协议，

因为缺乏-q参数，且他的-s 参数表现像GNU grep的 -q 参数。

Shell 倾向将传统的grep移植，避开-q及-s参数，

且将输出限制到/dev/null。



POSIX: 定义UNIX及UNIX-like系统需要提供的功能。



25. -V, --version

显示出grep的版本号到标准错误。

当您在回报有关grep的bugs时，grep版本号是必须要包含在内的。

26. -v, --invert-match

显示除搜寻样式行之外的全部。



27. -w, --word-regexp

将搜寻样式视为一个字去搜寻，完全符合该"字"的行才会被列出。

28. -x, --line-regexp

将搜寻样式视为一行去搜寻，完全符合该"行"的行才会被列出。