shell脚本及正则表达式

shell脚本的编写及正则表达式：
一、shell脚本的基本：
1.首先shell脚本到底是什么？
1）纯文本文档--文件中所存储的数据都是以字符为单位进行存储的；
2）根据用户的需求来解决用户问题的大量命令的组合体
3）“执行幂等性”——任何命令多次执行的结果是一致的
注意：很多命令都不具备“执行幂等性”，在shell脚本中就需要大量的程序逻辑来判断某个命令是否满足其运行条件，以避免在运行过程中出现严重错误。

2.脚本的基本代码内容：
1）首先我们可以利用文本编辑工具来编写shell脚本：
例如：Nano 、vi、Vim、emacs、pico
在这里我们推荐使用Vim，因为它具有语法着色，自动缩进等特性

脚本的命令方式：可以使用.sh的文件名为后缀；在低版本的Vim编辑器，只能根据.sh的后缀命令来识别是否为shell脚本，高版本的Vim编辑器，则无需过多的文件后缀名的问题；

2）shebang:首行必须是shebang，解释器路径，必须占据就对行首：在执行时，启动相应的解释器以解释脚本内诸多的命令
因为我们使用的shell为bash
#! /bin/bash
3) 在shell脚本中，除了shebang之外，所有以#开头的行都为注释行，解释器都会忽略这样的行的内容
例如：
# author：秦耀东
# type：基础练习
...
4）空白行:解释器会忽略脚本中所有的空白行；
5）大量的关键字和命令:if、else、then、do、while、for、...
6) bash中所有的特殊想字符
/// 注意：shell脚本一旦运行，是在当前的shell中根据shebang的指示，开启一个解释器（子shell）解释执行代码内容，shell脚本的内容是在一个子shell进程中实现的；

3.脚本的运行方法：
1）为脚本文件赋予执行权限，直接运行此文件：
~ ]# chmod +x /PATH/TO/SCRIPT_FILE
注意：如果在执行脚本时，只写脚本的名不写路径的话，必须确保PATH变量中保存的路径下，能够找到该文件；
2)直接使用解释器运行脚本，讲脚本作为解释器命令的参数；
bash /PATH/TO/SCRIPT_FILE
bash -x /PATH/TO/SCRIPT_FILE（将脚本的运行过程展示出来，一般用于脚本排错）
bash -n /PATH/TO/SCRIPT_FILE（对脚本进行语法排错，如果存在语法错误，则 bash会给予提示，针对于这类错误提示，，需要我们自行判断错误的发生位置）

二、正则表达式：

在学习正则表达式之前我们先来学习文本处理工具：
文本处理三剑客：
grep系：grep、egrep、fgrep，文本搜索工具，基于"PATTERN"对于给定的文本进行模糊搜索，grep系默认工作于贪婪模式下；

sed：Stream EDitor，流编辑器，行编辑器，文本编辑工具；

awk：gawk——GNU awk，文本格式化工具，文本报告生成器，文本处理的编程语言；

1.grep系：grep egrep fgrep

1：grep:默认仅支持基本正则表达式
全称为Global search Regular Expression and Print out the line.利用正则表达式进行全局搜索并将匹配的行显示出来；
1）grep [OPTIONS] PATTERN [FILE...]
////这里我们要介绍一下PATTERN,PATTERN是一种过滤条件，是由正则表达式元字符以及没有特殊含义的文本字符组成；
正则表达式的元字符会被正则表达式引擎解释为特殊含义；
正则表达式的文本字符是指只具备字符表面含义的字符；
常用选项为：
-i, --ignore-case：忽略文本字符的大小写；
-v, --invert-match：反向匹配；最终显示的结果是PATTERN不能成功匹配的行；
-c, --count：计数，统计匹配PATTERN的所有的行数；
-o, --only-matching：关闭贪婪模式，仅显示PATTERN能够匹配的内容；
-q, --quiet, --silent：安静模式，不输出任何匹配结果；
--color[=WHEN], --colour[=WHEN]：将匹配PATTERN的内容以特殊颜色高亮显示；
--color=auto
-E, --extended-regexp：扩展的正则表达式，grep -E相当于egrep；
-F, --fixed-strings, --fixed-regexp：grep -F相当于fgrep
-G, --basic-regexp：基本的正则表达式，egrep -G相当于grep
-P, --perl-regexp：使用PCRE(Perl Common Regular Expression)引擎；
-A NUM, --after-context=NUM：在显示匹配PATTERN的行的同时显示其后面的NUM行；
-B NUM, --before-context=NUM：在显示匹配PATTERN的行的同时显示其前面的NUM行；
-C NUM, -NUM, --context=NUM：在显示匹配PATTERN的行的同时显示其前后各NUM行；
基本的正则表达式的元字符：
1） 字符匹配;
. ：匹配任意单个字符；
[]：匹配指定范围内的任意单个字符；
[^]：匹配指定范围以外的任意单个字符；
下列所有的字符集都可以放置于[]之中用于匹配单个字符；
[:lower:]:所有小写的单个字符
[:upper:]：所有大写的字母
[:alpha:]：所有字母字符
[:digit:]：所有的十进制数字
[:space:]：所有的空白字符
[:alnum:]：表示所有的大小写字母以及十进制数字
[:punct:]：所有的标点符号
[:xdigit:]：所有的十六进制数字；
a-z：所有的小写字母
A-Z：所有的大写字母
0-9：标识所有的十进制数字

2）次数匹配
*：其前面的字符可以出现任意次(0次，1次或多次)；
\?：其前面的字符可有可无(0次或1次)；
\+：其前面的字符至少出现一次(1次或多次)；
\{m\}：其前面的字符必须出现m次；
\{m,n\}：其前面的字符至少出现m次，至多出现n次；(m<n)
\{,n\}：其前面的字符至少出现0次，至多出现n次；
\{m,\}：其前面的字符至少出现m次，多多益善；

在正则表达式中，表示任意长度任意字符的方式：.*

位置锚定字符：
行锚定：
行首锚定：^
行尾锚定：$
字锚定：
字首锚定：\<或\b
字尾锚定：\>或\b
\b：旧版本中的锚定方法，建议不使用；

对于正则表达式引擎来说，字是由非特殊字符组成的连续字符串；

分组与引用字符：
\(PATTERN\)：将此PATTERN所匹配到的所有字符当作一个不可分割的整体来处理

在正则表达式引擎之中，有一系列的内置变量，这些变量会保存所有分组内的字符信息，用于后向引用；这些变量依次是：\1, \2, \3, ...

pattern1\(pattern2\)pattern3\(pattern4\(pattern5\)\)

\1：pattern2
\2：pattern4
\3：pattern5
\1：第一组小括号中的pattern匹配到的字符；

\2：第二组小括号中的pattern匹配到的字符；
...

///// 例：请找出在/etc/passwd中用户的UID和GID相同的用户账户；
~]# grep '\(\<[[:digit:]]\+\>\).*\1' /etc/passwd

或：\|
注意：\|将其左右两边的字符串当作整体对待；

A\|american :A或american
请找出ifconfig命令的执行结果中数值在100-255之间的整数；

第一位：1 2

第二位：0-90-4 5
第三位：0-90-9 0-5

ifconfig | grep '\<\(1[0-9][0-9]\|2[0-4][0-9]\|25[0-5]\)\>'
请找出ifconfig命令的执行结果中数值在0-255之间的整数；
2.grep [OPTIONS] [-e PATTERN | -f FILE] [FILE...]

默认情况下，grep命令后面只允许有一个PATTERN；
如果想要在一次grep所搜过程中写多个PATTERN，则需要使用-e选项；每个-e选项只能使用一个PATTERN作为参数；
将所需要的PATTERN写入到一个文件中，保证每行只有一个PATTERN；我们就可以使用-f FILE方式来实现多PATTERN匹配；
egrep：

egrep [OPTIONS] PATTERN [FILE...]
扩展的正则表达式元字符：
1） 字符匹配;
. ：匹配任意单个字符； []：匹配指定范围内的任意单个字符； [^]：匹配指定范围以外的任意单个字符； 下列所有的字符集都可以放置于[]之中用于匹配单个字符； [:lower:]:所有小写的单个字符 [:upper:]：所有大写的字母 [:alpha:]：所有字母字符 [:digit:]：所有的十进制数字 [:space:]：所有的空白字符 [:alnum:]：表示所有的大小写字母以及十进制数字 [:punct:]：所有的标点符号 [:xdigit:]：所有的十六进制数字； a-z：所有的小写字母 A-Z：所有的大写字母 0-9：标识所有的十进制数字 2）次数匹配 *：其前面的字符可以出现任意次(0次，1次或多次)； \?：其前面的字符可有可无(0次或1次)； \+：其前面的字符至少出现一次(1次或多次)； \{m\}：其前面的字符必须出现m次； \{m,n\}：其前面的字符至少出现m次，至多出现n次；(m<n) \{,n\}：其前面的字符至少出现0次，至多出现n次； \{m,\}：其前面的字符至少出现m次，多多益善；
在正则表达式中，表示任意长度任意字符的方式：.*
位置锚定字符： 行锚定： 行首锚定：^ 行尾锚定：$ 字锚定： 字首锚定：\<或\b 字尾锚定：\>或\b 分组与引用字符： \(PATTERN\)：将此PATTERN所匹配到的所有字符当作一个不可分割的整体来处理
在正则表达式引擎之中，有一系列的内置变量，这些变量会保存所有分组内的字符信息， 用于后向引用；这些变量依次是：\1, \2, \3, ...
pattern1\(pattern2\)pattern3\(pattern4\(pattern5\)\) \1：pattern2 \2：pattern4 \3：pattern5 \1：第一组小括号中的pattern匹配到的字符；
\2：第二组小括号中的pattern匹配到的字符； ...
///// 例：请找出在/etc/passwd中用户的UID和GID相同的用户账户； ~]# grep '\(\<[[:digit:]]\+\>\).*\1' /etc/passwd
或：\| 注意：\|将其左右两边的字符串当作整体对待；
A\|american :A或american
fgrep：PATTERN中所有的字符都被当作文本字符来处理；

其他的文本处理命令：
wc：
wc [OPTION]... [FILE]...
-l：只显示行数
-w：只显示字数
-c：只显示字符数

cut：remove sections from each line of files
能够被cut命令修剪的文件，一般都是具有一定结构或格式的文本文档；/etc/passwd
cut OPTION... [FILE]...
-d, --delimiter=DELIM：指定在实施修剪操作时所依赖的分隔符，默认是空白字符；
-f, --fields=LIST：根据定义的分隔符来指定字段的编号；
地址定界使用方法：
#：选择被指定的单个字段；
#,#：离散的多个被指定的单个字段；
#-#：连续的多个被指定的字段；
--output-delimiter=STRING：指定输出分隔符；

awk：
awk -F "DELIMITER" '[/PATTERN/]{print $1,$2,...$NF}' FILE...
-F "DELIMITER"：指定字段分隔符，默认为空白字符；
$1,$2,...,$NF：根据字段分隔符切割出来的文本片段都存放在相应的内部变量中；

sort：sort lines of text files，将文本文件按行继续排序，默认排序规则是按照ASCII表中的字符顺序进行，这个排序标准可修改；
-r, --reverse：逆序排序
-R, --random-sort：随机排序，这种随机算法是非常简陋的，不适用于复杂环境；
-u, --unique：重复出现的行，只保留一行；(连续且完全相同的行叫重复)，祛重；
-n, --numeric-sort：以数字的数值大小进行排序；
-t, --field-separator=SEP：指定字段分隔符；
-k, --key=KEYDEF：指明根据哪个关键字段进行排序，一般和-t同时使用；

uniq：report or omit repeated lines
-d, --repeated：只显示重复出现的行，而且每一组重复行只显示一行；
-u, --unique：只显示不重复的行；
-c, --count：在每行以前缀的方式显示重复行的重复次数；

diff：compare files line by line
同一文件的不同修改版本；打补丁；

patch：apply changes to files