Chinaunix首页 | 论坛 | 博客

Klaus的ChinaUnix博客

首页　| 　博文目录　| 　关于我

wh2010td

  • 博客访问： 408678
  • 博文数量： 120
  • 博客积分： 0
  • 博客等级： 民兵
  • 技术积分： 741
  • 用 户 组： 普通用户
  • 注册时间： 2014-03-27 18:15
文章分类

全部博文（120）

文章存档

2016年（13）

2015年（41）

2014年（66）

我的朋友
最近访客
推荐博文
相关博文
linux命令之awk和sed详解

分类： 其他平台

2014-12-23 15:41:31

awk命令转自：http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858470.html
sed命令转自：
感谢以上两位博主；
1、awk命令
简介
    awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。
    awk有3个不同版本: awk、nawk和gawk，未作特别说明，一般指gawk，gawk 是 AWK 的 GNU 版本。
    awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。

使用方法

点击(此处)折叠或打开

  1. awk '{pattern + action}' {filenames}
    尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。
    awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
    通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。

调用awk

有三种方式调用awk

点击(此处)折叠或打开

  1. 1.命令行方式
  2. awk [-F field-separator] 'commands' input-file(s)
  3. 其中，commands 是真正awk命令，[-F域分隔符]是可选的。 input-file(s) 是待处理的文件。
  4. 在awk中，文件的每一行中，由域分隔符分开的每一项称为一个域。通常，在不指名-F域分隔符的情况下，默认的域分隔符是空格。

  6. 2.shell脚本方式
  7. 将所有的awk命令插入一个文件，并使awk程序可执行，然后awk命令解释器作为脚本的首行，一遍通过键入脚本名称来调用。
  8. 相当于shell脚本首行的：#!/bin/sh
  9. 可以换成：#!/bin/awk

  11. 3.将所有的awk命令插入一个单独文件，然后调用：
  12. awk -f awk-script-file input-file(s)
  13. 其中，-f选项加载awk-script-file中的awk脚本，input-file(s)跟上面的是一样的。
本章重点介绍命令行方式。

入门实例

假设last -n 5的输出如下

点击(此处)折叠或打开

  1. [root@www ~]# last -n 5 <==仅取出前五行
  2. root pts/1 192.168.1.100 Tue Feb 10 11:21 still logged in
  3. root pts/1 192.168.1.100 Tue Feb 10 00:46 - 02:28 (01:41)
  4. root pts/1 192.168.1.100 Mon Feb 9 11:41 - 18:30 (06:48)
  5. dmtsai pts/1 192.168.1.100 Mon Feb 9 11:41 - 11:41 (00:00)
  6. root tty1 Fri Sep 5 14:09 - 14:10 (00:01)
*如果只是显示最近登录的5个帐号

点击(此处)折叠或打开

  1. #last -n 5 | awk '{print $1}'
  2. root
  3. root
  4. root
  5. dmtsai
  6. root
    awk工作流程是这样的：读入有'\n'换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键" 或 "[tab]键",所以$1表示登录用户，$3表示登录用户ip,以此类推。

* 如果只是显示/etc/passwd的账户

点击(此处)折叠或打开

  1. #cat /etc/passwd |awk -F ':' '{print $1}'
  2. root
  3. daemon
  4. bin
  5. sys

这种是awk+action的示例，每行都会执行action{print $1}。

-F指定域分隔符为':'。

*如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以tab键分割

点击(此处)折叠或打开

  1. #cat /etc/passwd |awk -F ':' '{print $1"\t"$7}'
  2. root /bin/bash
  3. daemon /bin/sh
  4. bin /bin/sh
  5. sys /bin/sh

*如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加"blue,/bin/nosh"。

点击(此处)折叠或打开

  1. cat /etc/passwd |awk -F ':' 'BEGIN {print "name,shell"} {print $1","$7} END {print "blue,/bin/nosh"}'
  2. name,shell
  3. root,/bin/bash
  4. daemon,/bin/sh
  5. bin,/bin/sh
  6. sys,/bin/sh
  7. ....
  8. blue,/bin/nosh
    awk工作流程是这样的：先执行BEGING，然后读取文件，读入有/n换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作action。接着开始读入第二条记录······直到所有的记录都读完，最后执行END操作。

 *搜索/etc/passwd有root关键字的所有行

点击(此处)折叠或打开

  1. #awk -F: '/root/' /etc/passwd
  2. root:x:0:0:root:/root:/bin/bash

这种是pattern的使用示例，匹配了pattern(这里是root)的行才会执行action(没有指定action，默认输出每行的内容)。

*搜索支持正则，例如找root开头的: awk -F: '/^root/' /etc/passwd

*搜索/etc/passwd有root关键字的所有行，并显示对应的shell

点击(此处)折叠或打开

  1. # awk -F: '/root/{print $7}' /etc/passwd
  2. /bin/bash
这里指定了action{print $7}

awk内置变量

awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量。

点击(此处)折叠或打开

  1. ARGC 命令行参数个数
  2. ARGV 命令行参数排列
  3. ENVIRON 支持队列中系统环境变量的使用
  4. FILENAME awk浏览的文件名
  5. FNR 浏览文件的记录数
  6. FS 设置输入域分隔符，等价于命令行 -F选项
  7. NF 浏览记录的域的个数
  8. NR 已读的记录数
  9. OFS 输出域分隔符
  10. ORS 输出记录分隔符
  11. RS 控制记录分隔符
此外,$0变量是指整条记录。$1表示当前行的第一个域,$2表示当前行的第二个域,......以此类推。

统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容:

点击(此处)折叠或打开

  1. #awk -F ':' '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd
  2. filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash
  3. filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/sh
  4. filename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/sh
  5. filename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh
使用printf替代print,可以让代码更加简洁，易读

点击(此处)折叠或打开

  1. awk -F ':' '{printf("filename:%10s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd

print和printf

    awk中同时提供了print和printf两种打印输出的函数。

    其中print函数的参数可以是变量、数值或者字符串。字符串必须用双引号引用，参数用逗号分隔。如果没有逗号，参数就串联在一起而无法区分。这里，逗号的作用与输出文件的分隔符的作用是一样的，只是后者是空格而已。

    printf函数，其用法和c语言中printf基本相似,可以格式化字符串,输出复杂时，printf更加好用，代码更易懂。

awk编程

变量和赋值

除了awk的内置变量，awk还可以自定义变量。

*下面统计/etc/passwd的账户人数

点击(此处)折叠或打开

  1. awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwd
  2. root:x:0:0:root:/root:/bin/bash
  3. ......
  4. user count is 40

count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句，而action{}可以有多个语句，以;号隔开。

 

这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0:

点击(此处)折叠或打开

  1. awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd
  2. [start]user count is 0
  3. root:x:0:0:root:/root:/bin/bash
  4. ...
  5. [end]user count is 40

*统计某个文件夹下的文件占用的字节数

点击(此处)折叠或打开

  1. ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}'
  2. [end]size is 8657198
如果以M为单位显示:

点击(此处)折叠或打开

  1. ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}'
  2. [end]size is 8.25889 M
注意，统计不包括文件夹的子目录。

条件语句

awk中的条件语句是从C语言中借鉴来的，见如下声明方式：

点击(此处)折叠或打开

  1. if (expression) {
  2.     statement;
  3.     statement;
  4.     ... ...
  5. }

  7. if (expression) {
  8.     statement;
  9. } else {
  10.     statement2;
  11. }

  13. if (expression) {
  14.     statement1;
  15. } else if (expression1) {
  16.     statement2;
  17. } else {
  18.     statement3;
  19. }

统计某个文件夹下的文件占用的字节数,过滤4096大小的文件(一般都是文件夹):

点击(此处)折叠或打开

  1. ls -l |awk 'BEGIN {size=0;print "[start]size is ", size} {if($5!=4096){size=size+$5;}} END{print "[end]size is ", size/1024/1024,"M"}'
  2. [end]size is 8.22339 M


循环语句

awk中的循环语句同样借鉴于C语言，支持while、do/while、for、break、continue，这些关键字的语义和C语言中的语义完全相同。

数组

因为awk中数组的下标可以是数字和字母，数组的下标通常被称为关键字(key)。值和关键字都存储在内部的一张针对key/value应用hash的表格里。由于hash不是顺序存储，因此在显示数组内容时会发现，它们并不是按照你预料的顺序显示出来的。数组和变量一样，都是在使用时自动创建的，awk也同样会自动判断其存储的是数字还是字符串。一般而言，awk中的数组用来从记录中收集信息，可以用于计算总和、统计单词以及跟踪模板被匹配的次数等等。


显示/etc/passwd的账户

点击(此处)折叠或打开

  1. awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd
  2. root
  3. daemon
  4. bin
  5. sys
  6. sync
  7. games
  8. ......

这里使用for循环遍历数组

awk编程的内容极多，这里只罗列简单常用的用法，更多请参考 


2、sed命令

点击(此处)折叠或打开

  1. 1. Sed简介
  2.     sed 是一种在线编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。
  3. 2. 定址
  4.     可以通过定址来定位你所希望编辑的行，该地址由数字构成，用逗号(选定行的范围)分隔的两个行数表示以这两行为起止的行的范围（包括行数表示的那两行）。如1，3表示1，2，3行，美元符号($)表示最后一行。范围可以通过数字，正则表达式或者二者结合的方式确定 。

  6. 3. Sed命令
  7. 调用sed命令有两种形式：
  8.     sed [options] 'command' file(s)
  9.     sed [options] -f scriptfile file(s)
  10. a\:在当前行后面加入一行文本。
  11. b lable:分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾。
  12. c\:用新的文本改变本行的文本。
  13. d:从模板块（Pattern space）位置删除行。
  14. D:删除模板块的第一行。
  15. i\:在当前行上面插入文本。文件内容被替换-i
  16. h:拷贝模板块的内容到内存中的缓冲区。
  17. H:追加模板块的内容到内存中的缓冲区
  18. g:获得内存缓冲区的内容，并替代当前模板块中的文本。
  19. G:获得内存缓冲区的内容，并追加到当前模板块文本的后面。
  20. l:列表不能打印字符的清单。
  21. n:读取下一个输入行，用下一个命令处理新的行而不是用第一个命令。
  22. N:追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码。
  23. p:打印模板块的行。
  24. P（大写）:打印模板块的第一行。
  25. q:退出Sed。
  26. r file:从file中读行。
  27. t label:if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
  28. T label:错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
  29. w file:写并追加模板块到file末尾。
  30. W file:写并追加模板块的第一行到file末尾。
  31. !:表示后面的命令对所有没有被选定的行发生作用。
  32. s/re/string:用string替换正则表达式re。
  33. =:打印当前行号码。
  34. #:把注释扩展到下一个换行符以前。

  36. 以下的是替换标记:
  37. *g表示行内全面替换。
  38. *p表示打印行。
  39. *w表示把行写入一个文件。
  40. *x表示互换模板块中的文本和缓冲区中的文本。
  41. *y表示把一个字符翻译为另外的字符（但是不用于正则表达式）

  43. 4. 选项
  44. -e command, --expression=command
  45.     允许多台编辑。
  46. -h, --help
  47.     打印帮助，并显示bug列表的地址。
  48. -n, --quiet, --silent
  49.     取消默认输出。
  50. -f, --filer=script-file
  51.     引导sed脚本文件名。
  52. -V, --version
  53.     打印版本和版权信息。

  55. 5. 元字符集
  56. ^:锚定行的开始 如：/^sed/匹配所有以sed开头的行。 
  57. $:锚定行的结束 如：/sed$/匹配所有以sed结尾的行。 
  58. .:匹配一个非换行符的字符 如：/s.d/匹配s后接一个任意字符，然后是d。 
  59. *:匹配零或多个字符 如：/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。 
  60. []:匹配一个指定范围内的字符，如/[Ss]ed/匹配sed和Sed。 
  61. [^]:匹配一个不在指定范围内的字符，如：/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头，紧跟ed的行。 
  62. \(..\):保存匹配的字符，如s/\(love\)able/\1rs，loveable被替换成lovers。 
  63. &:将搜索字符和传入的字符组合到一起用来替换搜索字符，如s/love/**&**/，love这成**love**。 
  64. \<:锚定单词的开始，如:/\<love/匹配包含以love开头的单词的行。 
  65. \>:锚定单词的结束，如/love\>/匹配包含以love结尾的单词的行。 
  66. x\{m\}:重复字符x，m次，如：/0\{5\}/匹配包含5个o的行。 
  67. x\{m,\}:重复字符x,至少m次，如：/o\{5,\}/匹配至少有5个o的行。 
  68. x\{m,n\}:重复字符x，至少m次，不多于n次，如：/o\{5,10\}/匹配5--10个o的行。

  70. 6. 实例，实例中$为linux命令行本身输出
  71. 删除：d命令
  72. *$ sed '2d' example
  73.     -----删除example文件的第二行。
  74. *$ sed '2,$d' example
  75.     -----删除example文件的第二行到末尾所有行。
  76. *$ sed '$d' example
  77.     -----删除example文件的最后一行。
  78. *$ sed '/test/'d example
  79.     -----删除example文件所有包含test的行。
  80. 替换：s命令
  81. *$ sed 's/test/mytest/g' example
  82.     -----在整行范围内把test替换为mytest。如果没有g标记，则只有每行第一个匹配的test被替换成mytest。
  83. *$ sed -n 's/^test/mytest/p' example
  84.     -----(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说，如果某一行开头的test被替换成mytest，就打印它。
  85. *$ sed 's/^192.168.0.1/&localhost/' example
  86.     -----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost，变成192.168.0.1localhost。
  87. *$ sed -n 's/\(love\)able/\1rs/p' example
  88.     -----love被标记为1，所有loveable会被替换成lovers，而且替换的行会被打印出来。
  89. *$ sed 's#10#100#g' example
  90.     -----不论什么字符，紧跟着s命令的都被认为是新的分隔符，所以，“#”在这里是分隔符，代替了默认的“/”分隔符。表示把所有10替换成100。
  91. 选定行的范围：逗号,
  92. *$ sed -n '/test/,/check/p' example
  93.     -----所有在模板test和check所确定的范围内的行都被打印。
  94. *$ sed -n '5,/^test/p' example
  95.     -----打印从第五行开始到第一个包含以test开始的行之间的所有行。
  96. *$ sed '/test/,/check/s/$/sed test/' example
  97.     -----对于模板test和check之间的行，每行的末尾用字符串sed test替换。
  98. 多点编辑：e命令
  99. *$ sed -e '1,5d' -e 's/test/check/' example
  100.     -----(-e)选项允许在同一行里执行多条命令。如例子所示，第一条命令删除1至5行，第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。
  101. *$ sed --expression='s/test/check/' --expression='/love/d' example
  102.     -----一个比-e更好的命令是--expression。它能给sed表达式赋值。
  103. 从文件读入：r命令
  104. *$ sed '/test/r file' example
  105.     -----file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面。
  106. 写入文件：w命令
  107. *$ sed -n '/test/w file' example
  108.     -----在example中所有包含test的行都被写入file里。
  109. 追加命令：a命令
  110. *$ sed '/^test/a\\--->this is a example' example
  111.     -----'this is a example'被追加到以test开头的行后面，sed要求命令a后面有一个反斜杠。
  112. 插入：i命令
  113. $ sed '/test/i\\new line-------------------------' example
  114.     -----如果test被匹配，则把反斜杠后面的文本插入到匹配行的前面。
  115. 下一个：n命令
  116. *$ sed '/test/{ n; s/aa/bb/; }' example
  117.     -----如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续。
  118. 变形：y命令
  119. *$ sed '1,10y/abcde/ABCDE/' example
  120.     -----把1--10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令。
  121. 退出：q命令
  122. *$ sed '10q' example
  123.     -----打印完第10行后，退出sed。
  124. 保持和获取：h命令和G命令
  125. *$ sed -e '/test/h' -e '$G example
  126.     -----在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾。
  127. 保持和互换：h命令和x命令
  128. *$ sed -e '/test/h' -e '/check/x example 
  129.     -----互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。
  130. 7. 脚本  
        Sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以#开头的行为注释行，且不能跨行。
  131. sed 's/localhost/127.0.0.1/g' mysql_virtual_*.cf


阅读(916) | 评论(0) | 转发(0) |
0

上一篇：linux profile和environment区别

下一篇：Makefile中赋值的区别(= := ?= +=)

给主人留下些什么吧！~~
关于我们 | 关于IT168 | 联系方式 | 广告合作 | 法律声明 | 免费注册

Copyright 2001-2010 ChinaUnix.net All Rights Reserved 北京皓辰网域网络信息技术有限公司. 版权所有

感谢所有关心和支持过ChinaUnix的朋友们

16024965号-6