Sed也好,Awk也好。都是原来Linux/Unix中结合Shell作为编程语言的一部分。虽然Perl和Python等脚本语言的流行已经让这些语言退居二线,但是这些“高级”的解释性脚本/语言处理小问题的时候颇有一些大材小用的感觉。Sed等,现在基本上被我用来快速实现一些简单的问题。一旦问题复杂,那么还是需要使用Perl等语言来降低编程复杂度、提高可靠性。
罗列一些日常中用的较多的Sed命令和参数。在开始时仍然有必要讲一些原理性的东西,以备长久使用。首先,应该明白模式空间的定义。模式空间就是读入行所在的缓存,sed对文本行进行的处理都是在这个缓存中进行的。在正常情况下,sed将待处理的行读入模式空间,脚本中的命令就一条接着一条的对该行进行处理,直到脚本执行完毕,然后该行被输出,模式空间请空;然后重复刚才的动作,文件中的新的一行被读入,直到文件处理完备。前面解释了模式空间的定义,而在sed中还有一个缓存叫作存储空间。在模式空间和存储空间中的内容可以通过一组命令互相拷贝。
sed将每行读入的数据放入模式空间后。进行各类处理,处理完成后,把缓冲区的内容送往屏幕。(事实上我们可以使用-n来禁止这个行为)接着处理下一行,这样不断重复,直到文件末尾。
Sed的命令常见格式:
sed [-n/-e] '[command]/format/{[command1];[command2]}' file
sed [-n/-e] '/format/p' file
例如
sed -n 's/abc/ABC/{
h;
p;
x;
}' /etc/passwd
sed -n /format/p file # 打印出现制定格式的行。
sed的格式基本按照 '参数 命令/正则/编辑命令群' (引号是必须的)文件的方式存在。下面按照这个方式具体解释。
-n 不答应模式空间中的任何内容,除非p指定。
-e 执行后面的命令,一个sed中可以有多个-e
-f 指定一个脚本文件(脚本文件有多个sed命令和模式组成)
-i 后面加后缀后,保留原来文件为这个后缀,然后再更新这个文件的内容。
Sed中的模式匹配:
规则表达式复习
可以使用规则表达式来表示可能会在文本中发现的模式。总体来说Sed的正则和grep中的类似。下面是可以在规则表达式中使用的特殊字符:
字符 描述
^ 与行首匹配
$ 与行末尾匹配
. 与任一个字符匹配
* 将与 前一个字符的零或多个出现匹配
[ ] 与 [ ] 之内的所有字符匹配
[^] 匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行。
\(..\) 保存匹配的字符,如s/\(love\)able/\1rs/,loveable被替换成lovers。
除开模式匹配,sed也同样支持行号。
/abc/,/agd/s/hell/HELL/g 匹配从保护abc的行开始,到匹配agd的行结束,在此期间替换所有的hell到HELL。
2,$s/hell/sad/g 从第二行开始到最后一行,替换hell到sad
命令
s 替换(前)
! 对没有选定的行执行命令
= 打印行号
y 替换(前),替换大小写
d 删除。遇到模式后,删除行而不输出。
n 对下一行执行下面的命令
a 在匹配行之后,添加内容。
i 在匹配行之前,添加内容。
g 全局替换,结合s使用
r 读入后面的文件,打印在匹配行之后
q 遇到此命令后,退出
h 把模式空间的内容copy到hold space
H 把模式空间的内容append到hold space
g 用hold space的内容代替模式空间的内容输出
G 用hold space的内容添加到模式空间后,一起输出。
x 交互hold space和模式空间的内容
D 删除模式空间中的第一行(模式空间可以用/n来表示行数)
函数参数 D 表示删除 pattern
space 内的第一行资料。其指令格式如下:
[address1,address2]D
对上述格式有下面几点说明 :
函数参数 D
最多配合两个地址参数。
函数参数 D 与 d 的比较如下 :
当 pattern space 内只有一数据行时 , D 与 d 作用相同。
当 pattern space 内有多行资料行时
D 表示只删除 pattern space 内第一行资料 ; d 则全删除。
D
表示执行删除后 , pattern space 内不添加下一笔数据 , 而将剩下的数据重新执行 sed script ; d 则读入下一行后执行 sed
script。
在hold空间中,原本就保留了一个\n,
所以所有后面添加的行都会是一个新行。
P 打印模式空间中的第一行
N 添加下一行到模式空间中
:a 记录标签,用于b和t的指定
b 前面的匹配成功,那么调整到b制定的标签处,如果没有标签,那么跳到最后面
t 前面最后一个s///的执行是否成功?成功,那么标签所在的语句,否则跳到最后面
T
实例
删除:d命令
· $ sed '2d' example-----删除example文件的第二行。
· $ sed '2,$d' example-----删除example文件的第二行到末尾所有行。
· $ sed '$d' example-----删除example文件的最后一行。
· $ sed '/test/'d example-----删除example文件所有包含test的行。
替换:s命令
· $ sed 's/test/mytest/g' example-----在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest。
· $ sed -n 's/^test/mytest/p' example-----(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。
· $ sed 's/^192.168.0.1
/&localhost/' example-----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都
会被替换成它自已加localhost,变成192.168.0.1localhost。
· $ sed 's/abc/ggg/3' 替换同一行中第三次出现abc的地方替换成ggg
· $ sed -n 's/\(love\)able/\1rs/p' example-----love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。
· $ sed 's#10#100#g' example-----不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。
选定行的范围:逗号
· $ sed -n '/test/,/check/p' example-----所有在模板test和check所确定的范围内的行都被打印。
· $ sed -n '5,/^test/p' example-----打印从第五行开始到第一个包含以test开始的行之间的所有行。
· $ sed '/test/,/check/s/$/sed test/' example-----对于模板test和west之间的行,每行的末尾用字符串sed test替换。
多点编辑:e命令
· $ sed -e '1,5d' -e 's/test
/check/' example-----(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换
test。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。
· $ sed --expression='s/test/check/' --expression='/love/d' example-----一个比-e更好的命令是--expression。它能给sed表达式赋值。
从文件读入:r命令
· $ sed '/test/r file' example-----file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。
写入文件:w命令
· $ sed -n '/test/w file' example-----在example中所有包含test的行都被写入file里。
追加命令:a命令
· $ sed '/^test/a\\--->this is a example' example<-----'this is a example'被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。
插入:i命令
$ sed '/test/i\\
new line
-------------------------' example
如果test被匹配,则把反斜杠后面的文本插入到匹配行的前面。
下一个:n命令
· $ sed '/test/{ n; s/aa/bb/; }' example-----如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。
变形:y命令
· $ sed '1,10y/abcde/ABCDE/' example-----把1--10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。
退出:q命令
· $ sed '10q' example-----打印完第10行后,退出sed。
保持和获取:h命令和G命令
· $ sed -e '/test/h' -e '$G example-----在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,
否则所有被处理的行都将打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将
其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现
在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。
保持和互换:h命令和x命令
· $ sed -e '/test/h' -e '/check/x' example -----互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。
参考链接: