awk的使用

awk
1.简介
awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。
awk有3个不同版本: awk、nawk和gawk，未作特别说明，一般指gawk，gawk 是 AWK 的 GNU 版本。
awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。
2.使用方法
awk '{pattern + action}' {filenames}
pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。
awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。
3.调用awk
有三种方式调用awk
①.命令行方式
awk [-F  field-separator]  'commands'  input-file(s)
其中，commands 是真正awk命令，[-F域分隔符]是可选的。 input-file(s) 是待处理的文件。
在awk中，文件的每一行中，由域分隔符分开的每一项称为一个域。通常，在不指名-F域分隔符的情况下，默认的域分隔符是空格。
②.shell脚本方式
将所有的awk命令插入一个文件，并使awk程序可执行，然后awk命令解释器作为脚本的首行，一遍通过键入脚本名称来调用。
相当于shell脚本首行的：#!/bin/sh
可以换成：#!/bin/awk
③.将所有的awk命令插入一个单独文件，然后调用：
awk -f awk-script-file input-file(s)
其中，-f选项加载awk-script-file中的awk脚本，input-file(s)跟上面的是一样的。
4.实例
[root@localhost ~]# last -n 5
root     pts/0        192.168.1.44     Mon Jul  6 19:27   still logged in
reboot   system boot  2.6.32-279.el6.x Mon Jul  6 19:26 - 19:58  (00:32)
reboot   system boot  2.6.32-279.el6.x Mon Jul  6 19:21 - 19:58  (00:36)
root     pts/0        192.168.1.102    Mon Jul  6 17:55 - down   (00:07)
root     tty1         :0               Mon Jul  6 17:54 - 17:55  (00:00)

wtmp begins Thu May 28 23:55:44 2015
[root@localhost ~]#
[root@localhost ~]# last -n 5 |awk '{print $1}'
root
reboot
reboot
root
root

wtmp
[root@localhost ~]#
awk工作流程是这样的：读入有'\n'换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键"或"[tab]键",所以$1表示登录用户，$3表示登录用户ip,以此类推。
[root@localhost ~]# cat testfile
northwest       NW      Charles Main         3.0     .98     3       34
western         WE      Sharon Gray          5.3     .97     5       23
southwest       SW      Lewis Dalsass        2.7     .8       2       18
southern        SO      Suan Chin            5.1     .95     4       15
southeast       SE      Patricia Hemenway    4.0     .7       4       17
eastern         EA      TB Savage            4.4     .84     5       20
northeast       NE      AM Main Jr.          5.1     .94     3       13
north           NO      Margot Weber         4.5     .89     5       9
central         CT      Ann Stephens         5.7     .94     5       13
[root@localhost ~]# cat testfile | awk '{print $1}'
northwest
western
southwest
southern
southeast
eastern
northeast
north
central
[root@localhost ~]#
这种是awk+action的示例，每行都会执行action{print $1}。
[root@localhost ~]# cat testfile | awk '{print $1"\t"$3}'
northwest       Charles
western Sharon
southwest       Lewis
southern        Suan
southeast       Patricia
eastern TB
northeast       AM
north   Margot
central Ann
[root@localhost ~]#
[root@localhost ~]# tail -n 5 /etc/passwd
webalizer:x:67:67:Webalizer:/var/www/usage:/sbin/nologin
sshd:x:74:74:Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
memcached:x:496:492:Memcached daemon:/var/run/memcached:/sbin/nologin
squid:x:23:23::/var/spool/squid:/sbin/nologin
tcpdump:x:72:72::/:/sbin/nologin
[root@localhost ~]# tail -n 5 /etc/passwd|awk -F ':' 'BEGIN {print "name,shell"} {print $1","$7} END {print "TroubleShooting,/bin/bash"}'
name,shell
webalizer,/sbin/nologin
sshd,/sbin/nologin
memcached,/sbin/nologin
squid,/sbin/nologin
tcpdump,/sbin/nologin
TroubleShooting,/bin/bash
[root@localhost ~]#
awk工作流程是这样的：先执行BEGIN，然后读取文件，读入有\n换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作action。接着开始读入第二条记录······直到所有的记录都读完，最后执行END操作。
===>
[root@localhost ~]# tail -n 5 /etc/passwd|awk -F: 'BEGIN {print "name,shell"} {print $1","$7} END {print "TroubleShooting,/bin/bash"}'


[root@localhost ~]# awk '/^south/' testfile
southwest       SW      Lewis Dalsass        2.7     .8       2       18
southern        SO      Suan Chin            5.1     .95     4       15
southeast       SE      Patricia Hemenway    4.0     .7       4       17
[root@localhost ~]# awk '/^south/{print "Hello World!"}' testfile
Hello World!
Hello World!
Hello World!
[root@localhost ~]#
这种是pattern的使用示例，匹配了pattern(这里是root)的行才会执行action(没有指定action，默认输出每行的内容)。
5.AWK内置变量
awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量。
ARGC               命令行参数个数ARGuments, argument counter
ARGV               命令行参数排列ARGuments, argument vector
ENVIRON            支持队列中系统环境变量的使用
FILENAME           awk浏览的文件名
FNR                浏览文件的记录数
FS                 设置输入域分隔符，等价于命令行 -F选项
NF                 浏览记录的域的个数
NR                 已读的记录数
OFS                输出域分隔符
ORS                输出记录分隔符
RS                 控制记录分隔符
此外,$0变量是指整条记录。$1表示当前行的第一个域,$2表示当前行的第二个域,......以此类推
统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容:
[root@localhost ~]#  awk -F: '{print "File name:"FILENAME",LineNumber:"NR",Columns:"NF",LineContents:"$0}' /etc/passwd
File name:/etc/passwd,LineNumber:1,Columns:7,LineContents:root:x:0:0:root:/root:/bin/bash
File name:/etc/passwd,LineNumber:2,Columns:7,LineContents:bin:x:1:1:bin:/bin:/sbin/nologin
File name:/etc/passwd,LineNumber:3,Columns:7,LineContents:daemon:x:2:2:daemon:/sbin:/sbin/nologin
File name:/etc/passwd,LineNumber:4,Columns:7,LineContents:adm:x:3:4:adm:/var/adm:/sbin/nologin
File name:/etc/passwd,LineNumber:5,Columns:7,LineContents:lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
File name:/etc/passwd,LineNumber:6,Columns:7,LineContents:sync:x:5:0:sync:/sbin:/bin/sync
File name:/etc/passwd,LineNumber:7,Columns:7,LineContents:shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
使用printf替代print,可以让代码更加简洁，易读
[root@localhost ~]#  awk  -F:  '{printf("filename:%s,linenumber:%d,columns:%d,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd
filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash
filename:/etc/passwd,linenumber:2,columns:7,linecontent:bin:x:1:1:bin:/bin:/sbin/nologin
filename:/etc/passwd,linenumber:3,columns:7,linecontent:daemon:x:2:2:daemon:/sbin:/sbin/nologin
filename:/etc/passwd,linenumber:4,columns:7,linecontent:adm:x:3:4:adm:/var/adm:/sbin/nologin
filename:/etc/passwd,linenumber:5,columns:7,linecontent:lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
filename:/etc/passwd,linenumber:6,columns:7,linecontent:sync:x:5:0:sync:/sbin:/bin/sync
filename:/etc/passwd,linenumber:7,columns:7,linecontent:shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
6.awk编程
6.1变量和赋值
[root@localhost ~]# awk 'BEGIN {count=0;print "[Start] user count is :",count} {count=count+1;print$0;} END {print "[end] user count is:",count}' /etc/passwd
[Start] user count is : 0
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
。。。。
tcpdump:x:72:72::/:/sbin/nologin
[end] user count is: 39
[root@localhost ~]#
count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句，而action{}可以有多个语句，以;号隔开。
统计某个文件夹下的文件占用的字节数
[root@localhost ~]# ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}'
[end]size is  102881
[root@localhost ~]#
如果以M为单位显示:
[root@localhost ~]# ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}'
[end]size is  0.098115 M
[root@localhost ~]#
6.2条件语句
for
6.3循环语句
do-while;
6.4数组