Linux Shell常用技巧(三)

八.　流编辑器sed:

sed一次处理一行文件并把输出送往屏幕。sed把当前处理的行存储在临时缓冲区中，称为模式空间(patternspace)。一旦sed完成对模式空间中的行的处理，模式空间中的行就被送往屏幕。行被处理完成之后，就被移出模式空间，程序接着读入下一行，处理，显示，移出......文件输入的最后一行被处理完以后sed结束。通过存储每一行在临时缓冲区，然后在缓冲区中操作该行，保证了原始文件不会被破坏。

1.sed的命令和选项：

命令	功能描述
a\	在当前行的后面加入一行或者文本。
c\	用新的文本改变或者替代本行的文本。
d	从patternspace位置删除行。
i\	在当前行的上面插入文本。
h	拷贝patternspace的内容到holdingbuffer(特殊缓冲区)。
H	追加patternspace的内容到holdingbuffer。
g	获得holdingbuffer中的内容，并替代当前patternspace中的文本。
G	获得holdingbuffer中的内容，并追加到当前patternspace的后面。
n	读取下一个输入行，用下一个命令处理新的行而不是用第一个命令。
p	打印patternspace中的行。
P	打印patternspace中的第一行。
q	退出sed。
wfile	写并追加patternspace到file的末尾。
!	表示后面的命令对所有没有被选定的行发生作用。
s/re/string	用string替换正则表达式re。
=	打印当前行号码。
替换标记
g	行内全面替换，如果没有g，只替换第一个匹配。
p	打印行。
x	互换patternspace和holdingbuffer中的文本。
y	把一个字符翻译为另一个字符(但是不能用于正则表达式)。
选项
-e	允许多点编辑。
-n	取消默认输出。

需要说明的是，sed中的正则和grep的基本相同，完全可以参照本系列的第一篇中的详细说明。

2.sed实例：

/>cattestfile

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513

/>sed'/north/p'testfile#如果模板north被找到，sed除了打印所有行之外，还有打印匹配行。

northwestNWCharlesMain3.0.98334

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513

#-n选项取消了sed的默认行为。在没有-n的时候，包含模板的行被打印两次，但是在使用-n的时候将只打印包含模板的行。

/>sed-n'/north/p'testfile

northwestNWCharlesMain3.0.98334

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

/>sed'3d'testfile#第三行被删除，其他行默认输出到屏幕。

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513

/>sed'3,$d'testfile#从第三行删除到最后一行，其他行被打印。$表示最后一行。

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

/>sed'$d'testfile#删除最后一行，其他行打印。

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

/>sed'/north/d'testfile#删除所有包含north的行，其他行打印。

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

centralCTAnnStephens5.7.94513

#s表示替换，g表示命令作用于整个当前行。如果该行存在多个west，都将被替换为north，如果没有g，则只是替换第一个匹配。

/>sed's/west/north/g'testfile

northnorthNWCharlesMain3.0.98334

northernWESharonGray5.3.97523

southnorthSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513

/>sed-n's/^west/north/p'testfile#-n表示只打印匹配行，如果某一行的开头是west，则替换为north。

northernWESharonGray5.3.97523

#&符号表示替换字符串中被找到的部分。所有以两个数字结束的行，最后的数字都将被它们自己替换，同时追加.5。

/>sed's/[0-9][0-9]$/&.5/'testfile

northwestNWCharlesMain3.0.98334.5

westernWESharonGray5.3.97523.5

southwestSWLewisDalsass2.7.8218.5

southernSOSuanChin5.1.95415.5

southeastSEPatriciaHemenway4.0.7417.5

easternEATBSavage4.4.84520.5

northeastNEAMMainJr.5.1.94313.5

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513.5

/>sed-n's/Hemenway/Jones/gp'testfile#所有的Hemenway被替换为Jones。-n选项加p命令则表示只打印匹配行。

southeastSEPatriciaJones4.0.7417

#模板Mar被包含在一对括号中，并在特殊的寄存器中保存为tag1，它将在后面作为\1替换字符串，Margot被替换为Marlianne。

/>sed-n's/\(Mar\)got/\1lianne/p'testfile

northNOMarlianneWeber4.5.8959

#s后面的字符一定是分隔搜索字符串和替换字符串的分隔符，默认为斜杠，但是在s命令使用的情况下可以改变。不论什么字符紧跟着s命令都认为是新的分隔符。这个技术在搜索含斜杠的模板时非常有用，例如搜索时间和路径的时候。

/>sed's#3#88#g'testfile

northwestNWCharlesMain88.0.9888884

westernWESharonGray5.88.975288

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.9488188

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.945188

#所有在模板west和east所确定的范围内的行都被打印，如果west出现在esst后面的行中，从west开始到下一个east，无论这个east出现在哪里，二者之间的行都被打印，即使从west开始到文件的末尾还没有出现east，那么从west到末尾的所有行都将打印。

/>sed-n'/west/,/east/p'testfile

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

/>sed-n'5,/^northeast/p'testfile#打印从第五行开始到第一个以northeast开头的行之间的所有行。

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

#-e选项表示多点编辑。第一个编辑命令是删除第一到第三行。第二个编辑命令是用Jones替换Hemenway。

/>sed-e'1,3d'-e's/Hemenway/Jones/'testfile

southernSOSuanChin5.1.95415

southeastSEPatriciaJones4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513

/>sed-n'/north/wnewfile'testfile#将所有匹配含有north的行写入newfile中。

/>catnewfile

northwestNWCharlesMain3.0.98334

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

/>sed'/eastern/i\NEWENGLANDREGION'testfile#i是插入命令，在匹配模式行前插入文本。

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

NEWENGLANDREGION

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513

#找到匹配模式eastern的行后，执行后面花括号中的一组命令，每个命令之间用逗号分隔，n表示定位到匹配行的下一行，s/AM/Archie/完成Archie到AM的替换，p和-n选项的合用，则只是打印作用到的行。

/>sed-n'/eastern/{n;s/AM/Archie/;p}'testfile

northeastNEArchieMainJr.5.1.94313

#-e表示多点编辑，第一个编辑命令y将前三行中的所有小写字母替换为大写字母，-n表示不显示替换后的输出，第二个编辑命令将只是打印输出转换后的前三行。注意y不能用于正则。

/>sed-n-e'1,3y/abcdefghijklmnopqrstuvwxyz/ABCDEFGHIJKLMNOPQRSTUVWXYZ/'-e'1,3p'testfile

NORTHWESTNWCHARLESMAIN3.0.98334

WESTERNWESHARONGRAY5.3.97523

SOUTHWESTSWLEWISDALSASS2.7.8218

/>sed'2q'testfile#打印完第二行后退出。

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

#当模板Lewis在某一行被匹配，替换命令首先将Lewis替换为Joseph，然后再用q退出sed。

/>sed'/Lewis/{s/Lewis/Joseph/;q;}'testfile

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWJosephDalsass2.7.8218

#在sed处理文件的时候，每一行都被保存在patternspace的临时缓冲区中。除非行被删除或者输出被取消，否则所有被处理过的行都将打印在屏幕上。接着patternspace被清空，并存入新的一行等待处理。在下面的例子中，包含模板的northeast行被找到，并被放入patternspace中，h命令将其复制并存入一个称为holdingbuffer的特殊缓冲区内。在第二个sed编辑命令中，当达到最后一行后，G命令告诉sed从holdingbuffer中取得该行，然后把它放回到pattern
space中，且追加到现在已经存在于模式空间的行的末尾。

/>sed-e'/northeast/h'-e'$G'testfile

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513

northeastNEAMMainJr.5.1.94313

#如果模板WE在某一行被匹配，h命令将使得该行从patternspace中复制到holdingbuffer中，d命令在将该行删除，因此WE匹配行没有在原来的位置被输出。第二个命令搜索CT，一旦被找到，G命令将从holdingbuffer中取回行，并追加到当前patternspace的行末尾。简单的说，WE所在的行被移动并追加到包含CT行的后面。

/>sed-e'/WE/{h;d;}'-e'/CT/{G;}'testfile

northwestNWCharlesMain3.0.98334

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

centralCTAnnStephens5.7.94513

westernWESharonGray5.3.97523

#第一个命令将匹配northeast的行从patternspace复制到holdingbuffer，第二个命令在读取的文件的末尾时，g命令告诉sed从holdingbuffer中取得行，并把它放回到patternspace中，以替换已经存在于patternspace中的。简单说就是包含模板northeast的行被复制并覆盖了文件的末尾行。

/>sed-e'/northeast/h'-e'$g'testfile

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

northeastNEAMMainJr.5.1.94313

#模板WE匹配的行被h命令复制到holdingbuffer，再被d命令删除。结果可以看出WE的原有位置没有输出。第二个编辑命令将找到匹配CT的行，g命令将取得holdingbuffer中的行，并覆盖当前patternspace中的行，即匹配CT的行。简单的说，任何包含模板northeast的行都将被复制，并覆盖包含CT的行。

/>sed-e'/WE/{h;d;}'-e'/CT/{g;}'testfile

northwestNWCharlesMain3.0.98334

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

northNOMargotWeber4.5.8959

westernWESharonGray5.3.97523

#第一个编辑中的h命令将匹配Patricia的行复制到holdingbuffer中，第二个编辑中的x命令，会将holdingbuffer中的文本考虑到patternspace中，而patternspace中的文本被复制到holdingbuffer中。因此在打印匹配Margot行的地方打印了holdingbuffer中的文本，即第一个命令中匹配Patricia的行文本，第三个编辑命令会将交互后的holdingbuffer中的文本在最后一行的后面打印出来。

/>sed-e'/Patricia/h'-e'/Margot/x'-e'$G'testfile

northwestNWCharlesMain3.0.98334

westernWESharonGray5.3.97523

southwestSWLewisDalsass2.7.8218

southernSOSuanChin5.1.95415

southeastSEPatriciaHemenway4.0.7417

easternEATBSavage4.4.84520

northeastNEAMMainJr.5.1.94313

southeastSEPatriciaHemenway4.0.7417

centralCTAnnStephens5.7.94513