Chinaunix首页 | 论坛 | 博客
  • 博客访问: 439623
  • 博文数量: 138
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 716
  • 用 户 组: 普通用户
  • 注册时间: 2015-03-03 21:48
文章分类

全部博文(138)

文章存档

2019年(1)

2017年(5)

2016年(99)

2015年(33)

我的朋友

分类: Python/Ruby

2017-04-08 02:01:07

《SED 单行脚本快速参考》的 perl 实现

需要处理文本时,通常我会使用sed或者awk,但我从来没有掌握它们,每次用时都得临时去查怎么使用。最近又碰到一个问题,想把一个html里面所有的css及javascript链接取出来,用sed或awk折腾了半天没有整出来,最后终于放弃了。我决定转向perl,perl是门非常强大的通用语言,但它最初诞生是用于文本处理,因此它处理文本的能力非常强大,并且于它一系列古怪的缩写,使得写命令非常简洁,非常适合一次性的文本处理。 perl的与正则表达式的是我非常熟悉,几乎所有的现代编程语言都使用的是perl的正则表达式语法,不像vim,sed,grep等的正则表达式需要那么多转义,十分古怪。至于学习成本,我觉得perl更容易学,通用编程语言大都十分相似,如果有多虑其它语言的编程经历,再学习另外一门编程语言非常容易,perl也不例外,在我开始写这篇文章时,其实只看perl的基本语法,花了大概2个小时,当然写的时间要长得多。相反对于sed,awk仅仅用于面向行的流处理工具,其语法跟通用编程语言有很大差别,理解它的处理模型,并记住它的特殊语法要困难得多。学习perl另外一个好处就是可以看懂别人写的 perl代码,有很多优秀的perl源代码。以下基于“”,原文内容保留,以便对比。

文本间隔:

# 在每一行后面增加一空行

Java代码  收藏代码
  1. sed G  
  2. awk '{printf("%s\n\n",$0)}'  
  3. perl -ne 'print "$_\n"'  
  4. perl -pe '$_ .= "\n"'  
  5. perl -pe '$\="\n"'  


# 将原来的所有空行删除并在每一行后面增加一空行。
# 这样在输出的文本中每一行后面将有且只有一空行。

Java代码  收藏代码
  1. sed '/^$/d;G'  
  2. awk '!/^$/{printf("%s\n\n",$0)}'  
  3. perl -ne 'print "$_\n" unless /^$/'  


# 在每一行后面增加两行空行

Java代码  收藏代码
  1. sed 'G;G'  
  2. awk '{printf("%s\n\n\n",$0)}'  
  3. perl -ne 'print "$_\n\n"'  
  4. perl -pe '$_ .= "\n\n"'  


# 将第一个脚本所产生的所有空行删除(即删除所有偶数行)

Java代码  收藏代码
  1. sed 'n;d'  
  2. awk '{f=!f;if(f)print $0}'  
  3. perl -ne 'print if $.%2'  
  4. perl -pe '$_="" if $.%2'  


# 在匹配式样“regex”的行之前插入一空行

Java代码  收藏代码
  1. sed '/regex/{x;p;x;}'  
  2. awk '{if(/regex/)printf("\n%s\n",$0);else print $0}'  
  3. perl -pe 'print "\n" if /regex/'  


# 在匹配式样“regex”的行之后插入一空行

Java代码  收藏代码
  1. sed '/regex/G'  
  2. awk '{if(/regex/)printf("%s\n\n",$0);else print $0}'  
  3. perl -ne 'print; print "\n" if /regex/'  
  4. perl -pe '$_ .= "\n" if /regex/'  


# 在匹配式样“regex”的行之前和之后各插入一空行

Java代码  收藏代码
  1. sed '/regex/{x;p;x;G;}'  
  2. awk '{if(/regex/)printf("\n%s\n\n",$0);else print $0}'  
  3. perl -pe 's/.*regex.*/\n$_/'  
  4. perl -pe '$_ = "\n$_\n" if /regex/'  


编号:

# 为文件中的每一行进行编号(简单的左对齐方式)。这里使用了“制表符”
# (tab,见本文末尾关于’\t’的用法的描述)而不是空格来对齐边缘。

Java代码  收藏代码
  1. sed = filename | sed 'N;s/\n/\t/'  
  2. awk '{i++;printf("%d\t%s\n",i,$0)}'  
  3. perl -pe 'print "$.\t"'  
  4. perl -pe '$_ = "$.\t$_"'  


# 对文件中的所有行编号(行号在左,文字右端对齐)。

Java代码  收藏代码
  1. sed = filename | sed 'N; s/^/     /; s/ *\(.\{6,\}\)\n/\1  /'  
  2. awk '{i++;printf("%6d  %s\n",i,$0)}'  
  3. perl -pe 'printf "%6d ", $.'  


# 对文件中的所有行编号,但只显示非空白行的行号。

Java代码  收藏代码
  1. sed '/./=' filename | sed '/./N; s/\n/ /'  
  2. awk '{i++;if(!/^$/)printf("%d %s\n",i,$0);else print}'  
  3. perl -pe 'print "$. " unless /^$/'  


# 计算行数 (模拟 “wc -l”)

Java代码  收藏代码
  1. sed -n '$='  
  2. awk '{i++}END{print i}'  
  3. perl -nle 'END { print $.}'  


文本转换和替代:

# Unix环境:转换DOS的新行符(CR/LF)为Unix格式。

Java代码  收藏代码
  1. sed 's/.$//'                     # 假设所有行以CR/LF结束  
  2. sed 's/^M$//'                    # 在bash/tcsh中,将按Ctrl-M改为按Ctrl-V  
  3. sed 's/\x0D$//'                  # ssed、gsed 3.02.80,及更高版本  
  4. awk '{sub(/\x0D$/,"");print $0}'  
  5. perl -pe 's/\r$//'  


# Unix环境:转换Unix的新行符(LF)为DOS格式。

Java代码  收藏代码
  1. sed "s/$/`echo -e \\\r`/"        # 在ksh下所使用的命令  
  2. sed 's/$'"/`echo \\\r`/"         # 在bash下所使用的命令  
  3. sed "s/$/`echo \\\r`/"           # 在zsh下所使用的命令  
  4. sed 's/$/\r/'                    # gsed 3.02.80 及更高版本  
  5. awk '{printf("%s\r\n",$0)}'  
  6. perl -pe 's/$/\r/'  


# DOS环境:转换Unix新行符(LF)为DOS格式。

Java代码  收藏代码
  1. sed "s/$//"                      # 方法 1  
  2. sed -n p                         # 方法 2  


DOS环境的略过

# DOS环境:转换DOS新行符(CR/LF)为Unix格式。
# 下面的脚本只对UnxUtils sed 4.0.7 及更高版本有效。要识别UnxUtils版本的
# sed可以通过其特有的“–text”选项。你可以使用帮助选项(“–help”)看
# 其中有无一个“–text”项以此来判断所使用的是否是UnxUtils版本。其它DOS
# 版本的的sed则无法进行这一转换。但可以用“tr”来实现这一转换。

Java代码  收藏代码
  1. sed "s/\r//" infile >outfile     # UnxUtils sed v4.0.7 或更高版本  
  2. tr -d \r outfile        # GNU tr 1.22 或更高版本  


DOS环境的略过

# 将每一行前导的“空白字符”(空格,制表符)删除
# 使之左对齐

Java代码  收藏代码
  1. sed 's/^[ \t]*//'                # 见本文末尾关于'\t'用法的描述  
  2. awk '{sub(/^[ \t]+/,"");print $0}'  
  3. perl -ple 's/^\s+//'  


# 将每一行拖尾的“空白字符”(空格,制表符)删除

Java代码  收藏代码
  1. sed 's/[ \t]*$//'                # 见本文末尾关于'\t'用法的描述  
  2. awk '{sub(/[ \t]+$/,"");print $0}'  
  3. perl -ple 's/\s+$//'  


# 将每一行中的前导和拖尾的空白字符删除

Java代码  收藏代码
  1. sed 's/^[ \t]*//;s/[ \t]*$//'  
  2. awk '{sub(/^[ \t]+/,"");sub(/[ \t]+$/,"");print $0}'  
  3. perl -ple 's/\s+(.*)\s+$/\1/'  


# 在每一行开头处插入5个空格(使全文向右移动5个字符的位置)

Java代码  收藏代码
  1. sed 's/^/     /'  
  2. awk '{printf("     %s\n",$0)}'  
  3. perl -pe 'print " "x5'  


# 以79个字符为宽度,将所有文本右对齐
# 78个字符外加最后的一个空格

Java代码  收藏代码
  1. sed -e :a -e 's/^.\{1,78\}$/ &/;ta'  
  2. awk '{printf("%79s\n",$0)}'  
  3. perl -ne 'printf "%80s", $_'  


# 以79个字符为宽度,使所有文本居中。在方法1中,为了让文本居中每一行的前
# 头和后头都填充了空格。 在方法2中,在居中文本的过程中只在文本的前面填充
# 空格,并且最终这些空格将有一半会被删除。此外每一行的后头并未填充空格。

Java代码  收藏代码
  1. sed  -e :a -e 's/^.\{1,77\}$/ & /;ta'                     # 方法1  
  2. sed  -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/'  # 方法2  
  3. awk '{for(i=0;i<39-length($0)/2;i++)printf(" ");printf("%s\n",$0)}'  #相当于上面的方法二  
  4. perl -pe 'print " " x (40-(length)/2)'                    # 方法2  


# 在每一行中查找字串“foo”,并将找到的“foo”替换为“bar”

Java代码  收藏代码
  1. sed 's/foo/bar/'                 # 只替换每一行中的第一个“foo”字串  
  2. sed 's/foo/bar/4'                # 只替换每一行中的第四个“foo”字串  
  3. sed 's/foo/bar/g'                # 将每一行中的所有“foo”都换成“bar”  
  4. sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替换倒数第二个“foo”  
  5. sed 's/\(.*\)foo/\1bar/'            # 替换最后一个“foo”  
  6. awk '{gsub(/foo/,"bar");print $0}'   # 将每一行中的所有“foo”都换成“bar”  
  7. perl -pe 's/foo/bar/'                # 只替换每一行中的第一个“foo”字串  
  8. perl -pe 's/foo/bar/g'               # 将每一行中的所有“foo”都换成“bar”   
  9. perl -pe 's/(.*)foo(.*foo)/\1bar\2/' # 替换倒数第二个“foo”  
  10. perl -pe 's/(.*)foo/\1bar/'            # 替换最后一个“foo”  


# 只在行中出现字串“baz”的情况下将“foo”替换成“bar”

Java代码  收藏代码
  1. sed '/baz/s/foo/bar/g'  
  2. awk '{if(/baz/)gsub(/foo/,"bar");print $0}'  
  3. perl -pe 's/foo/bar/g if /baz/'  


# 将“foo”替换成“bar”,并且只在行中未出现字串“baz”的情况下替换

Java代码  收藏代码
  1. sed '/baz/!s/foo/bar/g'  
  2. awk '{if(/baz$/)gsub(/foo/,"bar");print $0}'  
  3. perl -pe 's/foo/bar/g unless /baz/'  


# 不管是“scarlet”“ruby”还是“puce”,一律换成“red”

Java代码  收藏代码
  1. sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g'  #对多数的sed都有效  
  2. gsed 's/scarlet\|ruby\|puce/red/g'               # 只对GNU sed有效  
  3. awk '{gsub(/scarlet|ruby|puce/,"red");print $0}'  
  4. perl -pe 's/scarlet|ruby|puce/red/g'  


# 倒置所有行,第一行成为最后一行,依次类推(模拟“tac”)。
# 由于某些原因,使用下面命令时HHsed v1.5会将文件中的空行删除

Java代码  收藏代码
  1. sed '1!G;h;$!d'               # 方法1  
  2. sed -n '1!G;h;$p'             # 方法2  
  3. awk '{A[i++]=$0}END{for(j=i-1;j>=0;j--)print A[j]}'  
  4. perl -e 'print reverse <>'  


# 将行中的字符逆序排列,第一个字成为最后一字,……(模拟“rev”)

Java代码  收藏代码
  1. sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'  
  2. awk '{for(i=length($0);i>0;i--)printf("%s",substr($0,i,1));printf("\n")}'  
  3. perl -ple '$_=scalar reverse'  


# 将每两行连接成一行(类似“paste”)

Java代码  收藏代码
  1. sed '$!N;s/\n/ /'  
  2. awk '{f=!f;if(f)printf("%s",$0);else printf(" %s\n",$0)}'  
  3. perl -pe 's/\n/ / if $.%2'  


# 如果当前行以反斜杠“\”结束,则将下一行并到当前行末尾
# 并去掉原来行尾的反斜杠

Java代码  收藏代码
  1. sed -e :a -e '/\\$/N; s/\\\n//; ta'  
  2. awk '{if(/\\$/)printf("%s",substr($0,0,length($0)-1));else printf("%s\n",$0)}'  
  3. perl -pe 's/\\\n//'  


# 如果当前行以等号开头,将当前行并到上一行末尾
# 并以单个空格代替原来行头的“=”

Java代码  收藏代码
  1. sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'  
  2. awk '{if(/^=/)printf(" %s",substr($0,2));else printf("%s%s",a,$0);a="\n"}END{printf("\n")}'  
  3. perl -0777pe 's/\n=/ /'  


# 为数字字串增加逗号分隔符号,将“1234567”改为“1,234,567”

Java代码  收藏代码
  1. gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta'                     # GNU sed  
  2. sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta'  # 其他sed  
  3. #awk的正则没有后向匹配和引用,搞的比较狼狈,呵呵。  
  4. awk '{while(match($0,/[0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'  
  5. perl -pe 's/(\d)(?=(\d{3})+\b)/\1,/g'  


# 为带有小数点和负号的数值增加逗号分隔符(GNU sed)

Java代码  收藏代码
  1. gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'  
  2. #和上例差不多  
  3. awk '{while(match($0,/[^\.0-9][0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'  
  4. # 这是我写的最复杂的正则表达式  
  5. perl -pe 's/(\d)((?=(\d{3}){2,}\.\d)|(\d{3}\.\d+)|(?=(\d{3})+\D))/\1,\2/g'   


# 在每5行后增加一空白行 (在第5,10,15,20,等行后增加一空白行)

Java代码  收藏代码
  1. gsed '0~5G'                      # 只对GNU sed有效  
  2. sed 'n;n;n;n;G;'                 # 其他sed  
  3. awk '{print $0;i++;if(i==5){printf("\n");i=0}}'  
  4. perl -pe '$_.="\n" if $.%5==0'  


选择性地显示特定行:

# 显示文件中的前10行 (模拟“head”的行为)

Java代码  收藏代码
  1. sed 10q  
  2. awk '{print;if(NR==10)exit}'  
  3. perl -pe 'last if $.==11'  


# 显示文件中的第一行 (模拟“head -1”命令)

Java代码  收藏代码
  1. sed q  
  2. awk '{print;exit}'  
  3. perl -ne 'print;exit'  
  4. perl -pe 'last if $.==2'  


# 显示文件中的最后10行 (模拟“tail”)

Java代码  收藏代码
  1. sed -e :a -e '$q;N;11,$D;ba'  
  2. #用awk干这个有点亏,得全文缓存,对于大文件肯定很慢  
  3. awk '{A[NR]=$0}END{for(i=NR-9;i<=NR;i++)print A[i]}'  
  4. perl -e '@A=<>;print @A[-10..-1]'  


# 显示文件中的最后2行(模拟“tail -2”命令)

Java代码  收藏代码
  1. sed '$!N;$!D'  
  2. awk '{A[NR]=$0}END{for(i=NR-1;i<=NR;i++)print A[i]}'  
  3. perl -e '@A=<>;print @A[-2..-1]'  


# 显示文件中的最后一行(模拟“tail -1”)

Java代码  收藏代码
  1. sed '$!d'                        # 方法1  
  2. sed -n '$p'                      # 方法2  
  3. #这个比较好办,只存最后一行了。  
  4. awk '{A=$0}END{print A}'  
  5. perl -e '@A=<>;print @A[-1]'  
  6. perl -ne '$t=$_;END{print $t}'  


# 显示文件中的倒数第二行

Java代码  收藏代码
  1. sed -e '$!{h;d;}' -e x              # 当文件中只有一行时,输出空行  
  2. sed -e '1{$q;}' -e '$!{h;d;}' -e x  # 当文件中只有一行时,显示该行  
  3. sed -e '1{$d;}' -e '$!{h;d;}' -e x  # 当文件中只有一行时,不输出  
  4. #存两行呗(当文件中只有一行时,输出空行)  
  5. awk '{B=A;A=$0}END{print B}'  
  6. perl -e '@A=<>;print @A[-2]'  


# 只显示匹配正则表达式的行(模拟“grep”)

Java代码  收藏代码
  1. sed -n '/regexp/p'               # 方法1  
  2. sed '/regexp/!d'                 # 方法2  
  3. awk '/regexp/{print}'  
  4. perl -ne 'print if /regexp/'  


# 只显示“不”匹配正则表达式的行(模拟“grep -v”)

Java代码  收藏代码
  1. sed -n '/regexp/!p'              # 方法1,与前面的命令相对应  
  2. sed '/regexp/d'                  # 方法2,类似的语法  
  3. awk '!/regexp/{print}'  
  4. perl -ne 'print unless /regexp/'  


# 查找“regexp”并将匹配行的上一行显示出来,但并不显示匹配行

Java代码  收藏代码
  1. sed -n '/regexp/{g;1!p;};h'  
  2. awk '/regexp/{print A}{A=$0}'  
  3. perl -ne 'print $t if /regexp/;$t=$_'  


# 查找“regexp”并将匹配行的下一行显示出来,但并不显示匹配行

Java代码  收藏代码
  1. sed -n '/regexp/{n;p;}'  
  2. awk '{if(A)print;A=0}/regexp/{A=1}'  
  3. perl -ne 'print scalar <> if /regexp/'  


# 显示包含“regexp”的行及其前后行,并在第一行之前加上“regexp”所在行的行号 (类似“grep -A1 -B1”)

Java代码  收藏代码
  1. sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h  
  2. awk '{if(F)print;F=0}/regexp/{print NR;print b;print;F=1}{b=$0}'  
  3. perl -ne 'if($M){print $.-1 ."\n$L0$L1$_"};$M=/regexp/;$L0,$L1=$L1,$_'  


# 显示包含“AAA”、“BBB”和“CCC”的行(任意次序)

Java代码  收藏代码
  1. sed '/AAA/!d; /BBB/!d; /CCC/!d'   # 字串的次序不影响结果  
  2. awk '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'  
  3. perl -ne 'print if /AAA/ && /BBB/ && /CCC/'  


# 显示包含“AAA”、“BBB”和“CCC”的行(固定次序)

Java代码  收藏代码
  1. sed '/AAA.*BBB.*CCC/!d'  
  2. awk '{if(match($0,/AAA.*BBB.*CCC/))print}'  
  3. perl -ne 'print if /AAA.*BBB.*CCC/'  


# 显示包含“AAA”“BBB”或“CCC”的行 (模拟“egrep”)

Java代码  收藏代码
  1. sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d    # 多数sed  
  2. gsed '/AAA\|BBB\|CCC/!d'                        # 对GNU sed有效  
  3. awk '/AAA/{print;next}/BBB/{print;next}/CCC/{print}'  
  4. awk '/AAA|BBB|CCC/{print}'  
  5. perl -ne 'print if /AAA|BBB|CCC/'  


# 显示包含“AAA”的段落 (段落间以空行分隔)
# HHsed v1.5 必须在“x;”后加入“G;”,接下来的3个脚本都是这样

Java代码  收藏代码
  1. sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'  
  2. awk 'BEGIN{RS=""}/AAA/{print}'  
  3. awk -vRS= '/AAA/{print}'  
  4. perl -00ne 'print if /AAA/'  


# 显示包含“AAA”“BBB”和“CCC”三个字串的段落 (任意次序)

Java代码  收藏代码
  1. sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'  
  2. awk -vRS= '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'  
  3. perl -00ne 'print if /AAA/ && /BBB/ && /CCC/'  


# 显示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 (任意次序)

Java代码  收藏代码
  1. sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d  
  2. gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d'         # 只对GNU sed有效  
  3. awk -vRS= '/AAA|BBB|CCC/{print "";print}'  
  4. perl -00ne 'print if /AAA|BBB|CCC/'  


# 显示包含65个或以上字符的行

Java代码  收藏代码
  1. sed -n '/^.\{65\}/p'  
  2. cat ll.txt | awk '{if(length($0)>=65)print}'  
  3. perl -ne 'print if /.{65}/'  
  4. perl -nle 'print if /.{65}/'  


# 显示包含65个以下字符的行

Java代码  收藏代码
  1. sed -n '/^.\{65\}/!p'            # 方法1,与上面的脚本相对应  
  2. sed '/^.\{65\}/d'                # 方法2,更简便一点的方法  
  3. awk '{if(length($0)<=65)print}'  
  4. perl -nle 'print unless /.{65}/'  


# 显示部分文本——从包含正则表达式的行开始到最后一行结束

Java代码  收藏代码
  1. sed -n '/regexp/,$p'  
  2. awk '/regexp/{F=1}{if(F)print}'  
  3. perl -ne 'print if /regex/..0'  


# 显示部分文本——指定行号范围(从第8至第12行,含8和12行)

Java代码  收藏代码
  1. sed -n '8,12p'                   # 方法1  
  2. sed '8,12!d'                     # 方法2  
  3. awk '{if(NR>=8 && NR<12)print}'  
  4. perl -ne 'print if 8..12'  


# 显示第52行

Java代码  收藏代码
  1. sed -n '52p'                     # 方法1  
  2. sed '52!d'                       # 方法2  
  3. sed '52q;d'                      # 方法3, 处理大文件时更有效率  
  4. awk '{if(NR==52){print;exit}}'  
  5. perl -ne 'print if 52..52'  
  6. perl -ne 'print if $.==52'  


# 从第3行开始,每7行显示一次

Java代码  收藏代码
  1. gsed -n '3~7p'                   # 只对GNU sed有效  
  2. sed -n '3,${p;n;n;n;n;n;n;}'     # 其他sed  
  3. awk '{if(NR==3)F=1}{if(F){i++;if(i%7==1)print}}'  
  4. perl -ne 'print if $.%7==3'  


# 显示两个正则表达式之间的文本(包含)

Java代码  收藏代码
  1. sed -n '/Iowa/,/Montana/p'       # 区分大小写方式  
  2. awk '/Iowa/{F=1}{if(F)print}/Montana/{F=0}'  
  3. perl -ne 'print if /Iowa/../Montana/'  


选择性地删除特定行:

# 显示通篇文档,除了两个正则表达式之间的内容
sed '/Iowa/,/Montana/d'
awk '/Iowa/{F=1}{if(!F)print}/Montana/{F=0}'
perl -ne 'print unless /Iowa/../Montana/'

# 删除文件中相邻的重复行(模拟“uniq”)
# 只保留重复行中的第一行,其他行删除

Java代码  收藏代码
  1. sed '$!N; /^\(.*\)\n\1$/!P; D'  
  2. awk '{if($0!=B)print;B=$0}'  
  3. perl -ne 'print unless $_ eq $t;$t=$_'  


# 删除文件中的重复行,不管有无相邻。注意hold space所能支持的缓存大小,或者使用GNU sed。

Java代码  收藏代码
  1. sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P'  #bones7456注:我这里此命令并不能正常工作  
  2. awk '{if(!($0 in B))print;B[$0]=1}'  
  3. perl -ne 'print if !$H{$_};$H{$_}=1'  


# 删除除重复行外的所有行(模拟“uniq -d”)

Java代码  收藏代码
  1. sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'  
  2. awk '{if($0==B && $0!=l){print;l=$0}B=$0}'  
  3. perl -ne 'print if $_ eq $t;$t=$_'  


# 删除文件中开头的10行

Java代码  收藏代码
  1. sed '1,10d'  
  2. awk '{if(NR>10)print}'  
  3. perl -ne 'print if 11..0'  


# 删除文件中的最后一行

Java代码  收藏代码
  1. sed '$d'  
  2. #awk在过程中并不知道文件一共有几行,所以只能通篇缓存,大文件可能不适合,下面两个也一样  
  3. awk '{B[NR]=$0}END{for(i=0;i<=NR-1;i++)print B[i]}'  
  4. perl -e '@A=<>;print @A[0..$#A-1]'  


# 删除文件中的最后两行

Java代码  收藏代码
  1. sed 'N;$!P;$!D;$d'  
  2. awk '{B[NR]=$0}END{for(i=0;i<=NR-2;i++)print B[i]}'  
  3. perl -e '@A=<>;print @A[0..$#A-2]'  


# 删除文件中的最后10行

Java代码  收藏代码
  1. sed -e :a -e '$d;N;2,10ba' -e 'P;D'   # 方法1  
  2. sed -n -e :a -e '1,10!{P;N;D;};N;ba'  # 方法2  
  3. awk '{B[NR]=$0}END{for(i=0;i<=NR-10;i++)print B[i]}'  
  4. perl -e '@A=<>;print @A[0..$#A-10]'  


# 删除8的倍数行

Java代码  收藏代码
  1. gsed '0~8d'                           # 只对GNU sed有效  
  2. sed 'n;n;n;n;n;n;n;d;'                # 其他sed  
  3. awk '{if(NR%8!=0)print}' |head  
  4. perl -ne 'print if $.%8'  


# 删除匹配式样的行

Java代码  收藏代码
  1. sed '/pattern/d'                      # 删除含pattern的行。当然pattern可以换成任何有效的正则表达式  
  2. awk '{if(!match($0,/pattern/))print}'  
  3. perl -ne 'print unless /pattern/'  


# 删除文件中的所有空行(与“grep ‘.’ ”效果相同)

Java代码  收藏代码
  1. sed '/^$/d'                           # 方法1  
  2. sed '/./!d'                           # 方法2  
  3. awk '{if(!match($0,/^$/))print}'  
  4. perl -ne 'print if /./'  


# 只保留多个相邻空行的第一行。并且删除文件顶部和尾部的空行。
# (模拟“cat -s”)

Java代码  收藏代码
  1. sed '/./,/^$/!d'        #方法1,删除文件顶部的空行,允许尾部保留一空行  
  2. sed '/^$/N;/\n$/D'      #方法2,允许顶部保留一空行,尾部不留空行  
  3. awk '{if(!match($0,/^$/)){print;F=1}else{if(F)print;F=0}}'  #同上面的方法2  
  4. perl -00 -pe ''         #方法2  


# 只保留多个相邻空行的前两行。

Java代码  收藏代码
  1. sed '/^$/N;/\n$/N;//D'  
  2. awk '{if(!match($0,/^$/)){print;F=0}else{if(F<2)print;F++}}'  
  3. perl -ne 'if(/^$/){$N++}else{$N=0};print if $N<=2'  


# 删除文件顶部的所有空行

Java代码  收藏代码
  1. sed '/./,$!d'  
  2. awk '{if(F || !match($0,/^$/)){print;F=1}}'  
  3. perl -ne 'if(/./ && !$N){$N=1};print if $N'  


# 删除文件尾部的所有空行

Java代码  收藏代码
  1. sed -e :a -e '/^\n*$/{$d;N;ba' -e '}'  # 对所有sed有效  
  2. sed -e :a -e '/^\n*$/N;/\n$/ba'        # 同上,但只对 gsed 3.02.*有效  
  3. awk '/^.+$/{for(i=l;i  


# 删除每个段落的最后一行

Java代码  收藏代码
  1. sed -n '/^$/{p;h;};/./{x;/./p;}'  
  2. #很长,很ugly,应该有更好的办法  
  3. awk -vRS= '{B=$0;l=0;f=1;while(match(B,/\n/)>0){print substr(B,l,RSTART-l-f);l=RSTART;sub(/\n/,"",B);f=0};print ""}'  
  4. #sed版本不正确,perl版本会删除最后一个段落的所有空行  
  5. perl -ne 'if(/./){$N-- if $N>1;print "\n"x$N.$_;$N=0}else{$N++}'  


特殊应用:

# 移除手册页(man page)中的nroff标记。在Unix System V或bash shell下使
# 用’echo’命令时可能需要加上 -e 选项。

Java代码  收藏代码
  1. sed "s/.`echo \\\b`//g"    # 外层的双括号是必须的(Unix环境)  
  2. sed 's/.^H//g'             # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H  
  3. sed 's/.\x08//g'           # sed 1.5,GNU sed,ssed所使用的十六进制的表示方法  
  4. awk '{gsub(/.\x08/,"",$0);print}'  
  5. perl -pe 's/\b//g'  


# 提取新闻组或 e-mail 的邮件头

Java代码  收藏代码
  1. sed '/^$/q'                # 删除第一行空行后的所有内容  
  2. awk '{print}/^$/{exit}'  
  3. perl -pe 'exit if /^$/'     # 不会保留空行  


# 提取新闻组或 e-mail 的正文部分

Java代码  收藏代码
  1. sed '1,/^$/d'              # 删除第一行空行之前的所有内容  
  2. awk '{if(F)print}/^$/{F=1}'  
  3. perl -ne 'print if /^$/..0' # 这会保留第一行空行  


# 从邮件头提取“Subject”(标题栏字段),并移除开头的“Subject:”字样

Java代码  收藏代码
  1. sed '/^Subject: */!d; s///;q'  
  2. awk '/^Subject:.*/{print substr($0,10)}/^$/{exit}'  
  3. perl -ne 'print if s/^Subject: (.*)/\1/'  


# 从邮件头获得回复地址

Java代码  收藏代码
  1. sed '/^Reply-To:/q; /^From:/h; /./d;g;q'  
  2. #好像是输出第一个Reply-To:开头的行?From是干啥用的?不清楚规则。。  
  3. awk '/^Reply-To:.*/{print;exit}/^$/{exit}'  
  4. #实际是:有Reply-To:显示Reply-To行,否则没有Reply-To但有From:则显示From行  
  5. perl -ne 'if (/^Reply-To:/){print;exit};$F=$_ if /^From:/;print $F if /^$/'  
  6. perl -ne '$H{"R"}=$_ if /^Reply-To:/;$H{"F"}=$_ if /^From:/;END { print ($H{"R"} or $H{"F"}) }'  
  7. perl -ne '$H{substr($1,0,1)}=$_ if /^(Reply-To|From):/;END{print ($H{"R"} or $H{"F"})}'  


# 获取邮件地址。在上一个脚本所产生的那一行邮件头的基础上进一步的将非电邮地址的部分剃除。(见上一脚本)

Java代码  收藏代码
  1. sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'  
  2. #取尖括号里的东西吧?  
  3. awk -F'[<>]+' '{print $2}'  
  4. #取冒号后内容: 有<...>只取尖括号中内容, 不取(...)中内容。  
  5. #From: aaaa => bbbb, From: aaaa => aaaa  
  6. perl -pe 's/ *\(.*\)//; s/>.*//; s/.*[:<] *//'   # 直接仿照sed版本  


# 在每一行开头加上一个尖括号和空格(引用信息)

Java代码  收藏代码
  1. sed 's/^/> /'  
  2. awk '{print "> " $0}'  
  3. perl -pe 's/^/> /'  


# 将每一行开头处的尖括号和空格删除(解除引用)

Java代码  收藏代码
  1. sed 's/^> //'  
  2. awk '/^> /{print substr($0,3)}'  
  3. perl -pe 's/^> //'  


# 移除大部分的HTML标签(包括跨行标签)

Java代码  收藏代码
  1. sed -e :a -e 's/<[^>]*>//g;/  
  2. awk '{gsub(/<[^>]*>/,"",$0);print}'  
  3. perl -pe 's/<[^>]*>//g'  


# 将分成多卷的uuencode文件解码。移除文件头信息,只保留uuencode编码部分。
# 文件必须以特定顺序传给sed。下面第一种版本的脚本可以直接在命令行下输入;
# 第二种版本则可以放入一个带执行权限的shell脚本中。(由Rahul Dhesi的一
# 个脚本修改而来。)

Java代码  收藏代码
  1. sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode   # vers. 1  
  2. sed '/^end/,/^begin/d' "$@" | uudecode                    # vers. 2  
  3. #我不想装个uudecode验证,大致写个吧  
  4. awk '/^end/{F=0}{if(F)print}/^begin/{F=1}' file1 file2 ... fileX  
  5. perl -ne 'print unless /^end/../^begin/'  


# 将文件中的段落以字母顺序排序。段落间以(一行或多行)空行分隔。GNU sed使用
# 字元“\v”来表示垂直制表符,这里用它来作为换行符的占位符——当然你也可以
# 用其他未在文件中使用的字符来代替它。

Java代码  收藏代码
  1. sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'  
  2. gsed '/./{H;d};x;y/\n/\v/' file | sort | sed '1s/\v//;y/\v/\n/'  
  3. awk -vRS= '{gsub(/\n/,"\v",$0);print}' ll.txt | sort | awk '{gsub(/\v/,"\n",$0);print;print ""}'  
  4. # 上面的版本在我的机器上不能运行,我是按照我的理解来吧  
  5. perl -00e '@A=<>; print sort @A'    # 有个缺陷,它要求最后一行以空行结束  


总的来说,大部分命令perl比awk还要短,再加上我在文章开头说的那些优势,我认为perl可以完全替换awk。sed很短,这是因为它的命令都只由单个字符所组成,所以别看它看很短,实际上可能是好多条命令的组合,写sed命令其实很复杂,很多时候还需要一些奇技淫巧。更不必说上面的对比对 awk和perl并不公平,因为它充分地利用了sed的特性,相反更多awk和perl的特性都没有用到,一条很简单的awk命令, awk '{ print $7 }'在sed中就非常复杂。sed和awk的优势是它在unix平台上随处可得,而perl就相对少一些,但是很多机器默认都带了perl,对于个人使用,这这种优势微不足道。

ps. 我在此这篇文章时用到文本处理需要,要将所有代码包含在"[ code]...[ /code]"中,所有code可以认为以sed或者gsed开头,可以用下面的perl代码来完成:
Java代码
  1. perl -00nle 'if (/^g?sed/) { print "[ code]\n${_}\n[ /code]"}else{print}'   


ps. javaeye的格式化做得很不好,如果我不指定代码格式,就不要将的代码格式默认显示为java,开始的“XXXX代码:"显得很多余,难道读者还不能从上下文辩认出这是用什么语言写的吗?

 

http://marlonyao.iteye.com/blog/1013248

阅读(984) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~