awk(2)

Awk学习笔记
整理：Jims of 肥肥世家



Copyright ? 2004 本文遵从GPL协议，欢迎转载、修改、散布。

第一次发布时间:2004年8月6日

Table of Contents

1. awk简介
2. awk命令格式和选项

2.1. awk的语法有两种形式
2.2. 命令选项

3. 模式和操作

3.1. 模式
3.2. 操作

4. awk的环境变量
5. awk运算符
6. 记录和域

6.1. 记录
6.2. 域
6.3. 域分隔符

7. gawk专用正则表达式元字符
8. POSIX字符集
9. 匹配操作符(~)
10. 比较表达式
11. 范围模板
12. 一个验证passwd文件有效性的例子
13. 几个实例
14. awk编程

14.1. 变量
14.2. BEGIN模块
14.3. END模块
14.4. 重定向和管道
14.5. 条件语句
14.6. 循环
14.7. 数组
14.8. awk的内建函数

15. How-to

1. awk简介

awk 是一种编程语言，用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件，或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能，是linux/unix下的一个强大编程工具。它在命令行中使用，但更多是作为脚本来使用。awk的处理文本和数据的方式是这样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出 (屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是Alfred Aho、Brian Kernighan、Peter Weinberger。gawk是awk的GNU版本，它提供了Bell实验室和GNU的一些扩展。下面介绍的awk是以GUN的gawk为例的，在 linux系统中已把awk链接到gawk，所以下面全部以awk进行介绍。
2. awk命令格式和选项
2.1. awk的语法有两种形式

*

awk [options] 'script' var=value file(s)
*

awk [options] -f scriptfile var=value file(s)

2.2. 命令选项

-F fs or --field-separator fs

指定输入文件折分隔符，fs是一个字符串或者是一个正则表达式，如-F:。
-v var=value or --asign var=value

赋值一个用户定义变量。
-f scripfile or --file scriptfile

从脚本文件中读取awk命令。
-mf nnn and -mr nnn

对nnn值设置内在限制，-mf选项限制分配给nnn的最大块数目；-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能，在标准awk中不适用。
-W compact or --compat, -W traditional or --traditional

在兼容模式下运行awk。所以gawk的行为和标准的awk完全一样，所有的awk扩展都被忽略。
-W copyleft or --copyleft, -W copyright or --copyright

打印简短的版权信息。
-W help or --help, -W usage or --usage

打印全部awk选项和每个选项的简短说明。
-W lint or --lint

打印不能向传统unix平台移植的结构的警告。
-W lint-old or --lint-old

打印关于不能向传统unix平台移植的结构的警告。
-W posix

打开兼容模式。但有以下限制，不识别：\x、函数关键字、func、换码序列以及当fs是一个空格时，将新行作为一个域分隔符；操作符**和**=不能代替^和^=；fflush无效。
-W re-interval or --re-inerval

允许间隔正则表达式的使用，参考(grep中的Posix字符类)，如括号表达式[[:alpha:]]。
-W source program-text or --source program-text

使用program-text作为源代码，可与-f命令混用。
-W version or --version

打印bug报告信息的版本。

3. 模式和操作

awk脚本是由模式和操作组成的：

pattern {action} 如$ awk '/root/' test，或$ awk '$3 < 100' test。

两者是可选的，如果没有模式，则action应用到全部记录，如果没有action，则输出匹配全部记录。默认情况下，每一个输入行都是一条记录，但用户可通过RS变量指定不同的分隔符进行分隔。
3.1. 模式

模式可以是以下任意一个：

*

/正则表达式/：使用通配符的扩展集。
*

关系表达式：可以用下面运算符表中的关系运算符进行操作，可以是字符串或数字的比较，如$2>%1选择第二个字段比第一个字段长的行。
*

模式匹配表达式：用运算符~(匹配)和~!(不匹配)。
*

模式，模式：指定一个行的范围。该语法不能包括BEGIN和END模式。
*

BEGIN：让用户指定在第一条输入记录被处理之前所发生的动作，通常可在这里设置全局变量。
*

END：让用户在最后一条输入记录被读取之后发生的动作。

3.2. 操作

操作由一人或多个命令、函数、表达式组成，之间由换行符或分号隔开，并位于大括号内。主要有四部份：

*

变量或数组赋值
*

输出命令
*

内置函数
*

控制流命令

4. awk的环境变量

Table 1. awk的环境变量
变量 描述
$n 当前记录的第n个字段，字段间由FS分隔。
$0 完整的输入记录。
ARGC 命令行参数的数目。
ARGIND 命令行中当前文件的位置(从0开始算)。
ARGV 包含命令行参数的数组。
CONVFMT 数字转换格式(默认值为%.6g)
ENVIRON 环境变量关联数组。
ERRNO 最后一个系统错误的描述。
FIELDWIDTHS 字段宽度列表(用空格键分隔)。
FILENAME 当前文件名。
FNR 同NR，但相对于当前文件。
FS 字段分隔符(默认是任何空格)。
IGNORECASE 如果为真，则进行忽略大小写的匹配。
NF 当前记录中的字段数。
NR 当前记录数。
OFMT 数字的输出格式(默认值是%.6g)。
OFS 输出字段分隔符(默认值是一个空格)。
ORS 输出记录分隔符(默认值是一个换行符)。
RLENGTH 由match函数所匹配的字符串的长度。
RS 记录分隔符(默认是一个换行符)。
RSTART 由match函数所匹配的字符串的第一个位置。
SUBSEP 数组下标分隔符(默认值是\034)。
5. awk运算符

Table 2. 运算符
运算符 描述
= += -= *= /= %= ^= **= 赋值
?: C条件表达式
|| 逻辑或
&& 逻辑与
~ ~! 匹配正则表达式和不匹配正则表达式
< <= > >= != == 关系运算符
空格 连接
+ - 加，减
* / & 乘，除与求余
+ - ! 一元加，减和逻辑非
^ *** 求幂
++ -- 增加或减少，作为前缀或后缀
$ 字段引用
in 数组成员
6. 记录和域
6.1. 记录

awk把每一个以换行符结束的行称为一个记录。

记录分隔符：默认的输入和输出的分隔符都是回车，保存在内建变量ORS和RS中。

$0变量：它指的是整条记录。如$ awk '{print $0}' test将输出test文件中的所有记录。

变量NR：一个计数器，每处理完一条记录，NR的值就增加1。如$ awk '{print NR,$0}' test将输出test文件中所有记录，并在记录前显示记录号。
6.2. 域

记录中每个单词称做“域”，默认情况下以空格或tab分隔。awk可跟踪域的个数，并在内建变量NF中保存该值。如$ awk '{print $1,$3}' test将打印test文件中第一和第三个以空格分开的列(域)。
6.3. 域分隔符

内建变量FS保存输入域分隔符的值，默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: '{print $1,$5}' test将打印以冒号为分隔符的第一，第五列的内容。

可以同时使用多个域分隔符，这时应该把分隔符写成放到方括号中，如$awk -F'[:\t]' '{print $1,$3}' test，表示以空格、冒号和tab作为分隔符。

输出域的分隔符默认是一个空格，保存在OFS中。
7. gawk专用正则表达式元字符

一般通用的元字符集就不讲了，可参考我的Sed和Grep学习笔记。以下几个是gawk专用的，不适合unix版本的awk。

\Y

匹配一个单词开头或者末尾的空字符串。
\B

匹配单词内的空字符串。
\<

匹配一个单词的开头的空字符串，锚定开始。
\>

匹配一个单词的末尾的空字符串，锚定末尾。
\w

匹配一个字母数字组成的单词。
\W

匹配一个非字母数字组成的单词。
\‘

匹配字符串开头的一个空字符串。
\'

匹配字符串末尾的一个空字符串。

8. POSIX字符集

可参考我的Grep学习笔记
9. 匹配操作符(~)

用来在记录或者域内匹配正则表达式。如$ awk '$1 ~/^root/' test将显示test文件第一列中以root开头的行。
10. 比较表达式

conditional expression1 ? expression2: expression3，例如：$ awk '{max = {$1 > $3} ? $1: $3: print max}' test。如果第一个域大于第三个域，$1就赋值给max，否则$3就赋值给max。

$ awk '$1 + $2 < 100' test。如果第一和第二个域相加大于100，则打印这些行。

$ awk '$1 > 5 && $2 < 10' test,如果第一个域大于5，并且第二个域小于10，则打印这些行。
11. 范围模板

范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现，则匹配到开头或末尾。如$ awk '/root/,/mysql/' test将显示root第一次出现到mysql第一次出现之间的所有行。
12. 一个验证passwd文件有效性的例子

1$ cat /etc/passwd | awk -F: '\
2NF != 7{\
3printf("line %d,does not have 7 fields:%s\n",NR,$0)}\
4$1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\
5$2 == "*" {printf("line %d, no password: %s\n",NR,$0)}'

1

cat把结果输出给awk，awk把域之间的分隔符设为冒号。
2

如果域的数量(NF)不等于7，就执行下面的程序。
3

printf打印字符串"line ?? does not have 7 fields"，并显示该条记录。
4

如果第一个域没有包含任何字母和数字，printf打印“no alpha and numeric user id" ，并显示记录数和记录。
5

如果第二个域是一个星号，就打印字符串“no passwd”，紧跟着显示记录数和记录本身。
13. 几个实例

*

$ awk '{print $3}' test-----截取第三域(列)的内容。
*

$ awk '/^(no|so)/' test-----打印所有以模式no或so开头的行。
*

$ awk '/^[ns]/{print $1}' test-----如果记录以n或s开头，就打印这个记录。
*

$ awk '$1 ~/[0-9][0-9]$/(print $1}' test-----如果第一个域以两个数字结束就打印这个记录。
*

$ awk '$1 == 100 || $2 < 50' test-----如果第一个或等于100或者第二个域小于50，则打印该行。
*

$ awk '$1 != 10' test-----如果第一个域不等于10就打印该行。
*

$ awk '/test/{print $1 + 10}' test-----如果记录包含正则表达式test，则第一个域加10并打印出来。
*

$ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test-----如果第一个域大于5则打印问号后面的表达式值，否则打印冒号后面的表达式值。
*

$ awk '/^root/,/^mysql/' test----打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记录，则继续打印直到下一个以正则表达式mysql开头的记录为止，或到文件末尾。

14. awk编程
14.1. 变量

*

在awk中，变量不需要定义就可以直接使用，变量类型可以是数字或字符串。
*

赋值格式：Variable = expression，如$ awk '$1 ~/test/{count = $2 + $3; print count}' test,上式的作用是,awk先扫描第一个域，一旦test匹配，就把第二个域的值加上第三个域的值，并把结果赋值给变量count，最后打印出来。
*

awk 可以在命令行中给变量赋值，然后将这个变量传输给awk脚本。如$ awk -F: -f awkscript month=4 year=2004 test，上式的month和year都是自定义变量，分别被赋值为4和2004。在awk脚本中，这些变量使用起来就象是在脚本中建立的一样。注意，如果参数前面出现test，那么在BEGIN语句中的变量就不能被使用。
*

域变量也可被赋值和修改，如$ awk '{$2 = 100 + $1; print }' test,上式表示，如果第二个域不存在，awk将计算表达式100加$1的值，并将其赋值给$2，如果第二个域存在，则用表达式的值覆盖$2原来的值。再例如：$ awk '$1 == "root"{$1 ="test";print}' test，如果第一个域的值是“root”，则把它赋值为“test”，注意，字符串一定要用双引号。
*

内建变量的使用。变量列表在前面已列出，现在举个例子说明一下。$ awk -F: '{IGNORECASE=1; $1 == "MARY"{print NR,$1,$2,$NF}'test，把IGNORECASE设为1代表忽略大小写，打印第一个域是mary的记录数、第一个域、第二个域和最后一个域。

14.2. BEGIN模块

BEGIN 模块后紧跟着动作块，这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值，如 OFS,RS和FS等，以及打印标题。如：$ awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test。上式表示，在处理输入文件以前，域分隔符(FS)被设为冒号，输出文件分隔符(OFS)被设置为制表符，输出记录分隔符(ORS)被设置为两个换行符。$ awk 'BEGIN{print "TITLE TEST"}只打印标题。
14.3. END模块

END不匹配任何的输入文件，但是执行动作块中的所有动作，它在整个输入文件处理完成后被执行。如$ awk 'END{print "The number of records is" NR}' test，上式将打印所有被处理的记录数。
14.4. 重定向和管道

*

awk 可使用shell的重定向符进行重定向输出，如：$ awk '$1 = 100 {print $1 > "output_file" }' test。上式表示如果第一个域的值等于100，则把它输出到output_file中。也可以用>>来重定向输出，但不清空文件，只做追加操作。
*

输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容，并给NF,NR和FNR等内建变量赋值。如果得到一条记录，getline函数返回1，如果到达文件的末尾就返回0，如果出现错误，例如打开文件失败，就返回-1。如：

$ awk 'BEGIN{ "date" | getline d; print d}' test。执行linux的date命令，并通过管道输出给getline，然后再把输出赋值给自定义变量d，并打印它。

$ awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}' test。执行shell的date命令，并通过管道输出给getline，然后getline从管道中读取并将输入赋值给d，split函数把变量d转化成数组mon，然后打印数组mon的第二个元素。

$ awk 'BEGIN{while( "ls" | getline) print}'，命令ls的输出传递给geline作为输入，循环使getline从ls的输出中读取一行，并把它打印到屏幕。这里没有输入文件，因为 BEGIN块在打开输入文件前执行，所以可以忽略输入文件。

$ awk 'BEGIN{printf "What is your name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on line ", NR "."} END{print "See you," name "."} test。在屏幕上打印”What is your name?",并等待用户应答。当一行输入完毕后，getline函数从终端接收该行输入，并把它储存在自定义变量name中。如果第一个域匹配变量 name的值，print函数就被执行，END块打印See you和name的值。

$ awk 'BEGIN{while (getline < "/etc/passwd" > 0) lc++; print lc}'。awk将逐行读取文件/etc/passwd的内容，在到达文件末尾前，计数器lc一直增加，当到末尾时，打印lc的值。注意，如果文件不存在，getline返回-1，如果到达文件的末尾就返回0，如果读到一行，就返回1，所以命令 while (getline < "/etc/passwd")在文件不存在的情况下将陷入无限循环，因为返回-1表示逻辑真。
*

可以在awk中打开一个管道，且同一时刻只能有一个管道存在。通过close()可关闭管道。如：$ awk '{print $1, $2 | "sort" }' test END {close("sort")}。awd把print语句的输出通过管道作为linux命令sort的输入,END块执行关闭管道操作。
*

system函数可以在awk中执行linux的命令。如：$ awk 'BEGIN{system("clear")'。
*

fflush函数用以刷新输出缓冲区，如果没有参数，就刷新标准输出的缓冲区，如果以空字符串为参数，如fflush(""),则刷新所有文件和管道的输出缓冲区。

14.5. 条件语句

awk中的条件语句是从C语言中借鉴过来的，可控制程序的流程。
14.5.1. if语句

格式：
{if (expression){
statement; statement; ...
}
}

$ awk '{if ($1 <$2) print $2 "too high"}' test。如果第一个域小于第二个域则打印。

$ awk '{if ($1 < $2) {count++; print "ok"}}' test.如果第一个域小于第二个域，则count加一，并打印ok。
14.5.2. if/else语句，用于双重判断。

格式：
{if (expression){
statement; statement; ...
}
else{
statement; statement; ...
}
}

$ awk '{if ($1 > 100) print $1 "bad" ; else print "ok"}' test。如果$1大于100则打印$1 bad,否则打印ok。

$ awk '{if ($1 > 100){ count++; print $1} else {count--; print $2}' test。如果$1大于100，则count加一，并打印$1，否则count减一，并打印$1。
14.5.3. if/else else if语句，用于多重判断。

格式：
{if (expression){
statement; statement; ...
}
else if (expression){
statement; statement; ...
}
else if (expression){
statement; statement; ...
}
else {
statement; statement; ...
}
}

14.6. 循环

*

awk有三种循环:while循环；for循环；special for循环。
*

$ awk '{ i = 1; while ( i <= NF ) { print NF,$i; i++}}' test。变量的初始值为1，若i小于可等于NF(记录中域的个数),则执行打印语句，且i增加1。直到i的值大于NF.
*

$ awk '{for (i = 1; i *

breadkcontinue语句。break用于在满足条件的情况下跳出循环；continue用于在满足条件的情况下忽略后面的语句，直接返回循环的顶端。如：

{for ( x=3; x<=NF; x++)
if ($x<0){print "Bottomed out!"; break}}
{for ( x=3; x<=NF; x++)
if ($x==0){print "Get next item"; continue}}


*

next语句从输入文件中读取一行，然后从头开始执行awk脚本。如：

{if ($1 ~/test/){next}
else {print}
}


*

exit语句用于结束awk程序，但不会略过END块。退出状态为0代表成功，非零值表示出错。

14.7. 数组

awk中的数组的下标可以是数字和字母，称为关联数组。
14.7.1. 下标与关联数组

*

用变量作为数组下标。如：$ awk {name[x++]=$2};END{for(i=0;i *

special for循环用于读取关联数组中的元素。格式如下：

{for (item in arrayname){
print arrayname[item]
}
}

$ awk '/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}' test。打印有值的数组元素。打印的顺序是随机的。
*

用字符串作为下标。如：count["test"]
*

用域值作为数组的下标。一种新的for循环方式，for (index_value in array) statement。如:$ awk '{count[$1]++} END{for(name in count) print name,count[name]}' test。该语句将打印$1中字符串出现的次数。它首先以第一个域作数组count的下标，第一个域变化，索引就变化。
*

delete 函数用于删除数组元素。如：$ awk '{line[x++]=$1} END{for(x in line) delete(line[x])}' test。分配给数组line的是第一个域的值，所有记录处理完成后，special for循环将删除每一个元素。

14.8. awk的内建函数
14.8.1. 字符串函数

*

sub函数匹配记录中最大、最靠左边的子字符串的正则表达式，并用替换字符串替换这些字符串。如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的时候。格式如下：

sub (regular expression, substitution string):
sub (regular expression, substitution string, target string)

实例：

$ awk '{ sub(/test/, "mytest"); print }' testfile
$ awk '{ sub(/test/, "mytest"); $1}; print }' testfile

第一个例子在整个记录中匹配，替换只发生在第一次匹配发生的时候。如要在整个文件中进行匹配需要用到gsub

第二个例子在整个记录的第一个域中进行匹配，替换只发生在第一次匹配发生的时候。
*

gsub函数作用如sub，但它在整个文档中进行匹配。格式如下：

gsub (regular expression, substitution string)
gsub (regular expression, substitution string, target string)

实例：

$ awk '{ gsub(/test/, "mytest"); print }' testfile
$ awk '{ gsub(/test/, "mytest"), $1 }; print }' testfile

第一个例子在整个文档中匹配test，匹配的都被替换成mytest。

第二个例子在整个文档的第一个域中匹配，所有匹配的都被替换成mytest。
*****sub gsub gensub区别

sub(a,b[,c]) 替换第一次匹配，匹配正则a，用b替换，c为指定替换目标是哪个域如$1,$2，若无c指$0，返回值为替换成功次数

gsub(a,b[,c]) 全局替换，匹配正则a，用b替换，c为指定替换目标是哪个域如$1,$2，若无c指$0，返回值为替换成功次数

gensub(a,b,c[,d])全局替换，匹配正则a，用b替换，c为指定替换目标是第几次匹配，d为指定替换目标是哪个域如$1,$2，若无d 指$0，返回值为target替换后内容(未替换还是返回target原内容)，与sub、gsub不同的是，target内容替换后不改变。

gensub(/123/,"x",1,$1)替换$1中 第一次匹配到的123为字符x，返回值为$1替换后的内容，且$1的内容并没有改变

gensub(/a(.*)b/,"\\1",1) 返回值为匹配正则第1对()内的内容
gensub(/a(.*)b(.*)c/,"\\2",1) 返回值为匹配正则第2对()内的内容

*

index函数返回子字符串第一次被匹配的位置，偏移量从位置1开始。格式如下：

index(string, substring)

实例：

$ awk '{ print index("test", "mytest") }' testfile

实例返回test在mytest的位置，结果应该是3。
*

length函数返回记录的字符数。格式如下：

length( string )
length

实例：

$ awk '{ print length( "test" ) }'
$ awk '{ print length }' testfile

第一个实例返回test字符串的长度。

第二个实例返回testfile文件中第条记录的字符数。
*

substr函数返回从位置1开始的子字符串，如果指定长度超过实际长度，就返回整个字符串。格式如下：

substr( string, starting position )
substr( string, starting position, length of string )

实例：

$ awk '{ print substr( "hello world", 7,11 ) }'

上例截取了world子字符串。
*

match函数返回在字符串中正则表达式位置的索引，如果找不到指定的正则表达式则返回0。match函数会设置内建变量RSTART为字符串中子字符串的开始位置，RLENGTH为到子字符串末尾的字符个数。substr可利于这些变量来截取字符串。函数格式如下：

match( string, regular expression )

实例：

$ awk '{start=match("this is a test",/[a-z]+$/); print start}'
$ awk '{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }'

第一个实例打印以连续小写字符结尾的开始位置，这里是11。

第二个实例还打印RSTART和RLENGTH变量，这里是11(start)，11(RSTART)，4(RLENGTH)。
*

toupper和tolower函数可用于字符串大小间的转换，该功能只在gawk中有效。格式如下：

toupper( string )
tolower( string )

实例：

$ awk '{ print toupper("test"), tolower("TEST") }'

*

split函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供，则按当前FS值进行分割。格式如下：

split( string, array, field separator )
split( string, array )

实例：

$ awk '{ split( "20:18:00", time, ":" ); print time[2] }'

上例把时间按冒号分割到time数组内，并显示第二个数组元素18。

14.8.2. 时间函数

*

systime函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。格式如下：

systime()

实例：

$ awk '{ now = systime(); print now }'

*

strftime函数使用C库中的strftime函数格式化时间。格式如下：

systime( [format specification][,timestamp] )

Table 3. 日期和时间格式说明符
格式 描述
%a 星期几的缩写(Sun)
%A 星期几的完整写法(Sunday)
%b 月名的缩写(Oct)
%B 月名的完整写法(October)
%c 本地日期和时间
%d 十进制日期
%D 日期 08/20/99
%e 日期，如果只有一位会补上一个空格
%H 用十进制表示24小时格式的小时
%I 用十进制表示12小时格式的小时
%j 从1月1日起一年中的第几天
%m 十进制表示的月份
%M 十进制表示的分钟
%p 12小时表示法(AM/PM)
%S 十进制表示的秒
%U 十进制表示的一年中的第几个星期(星期天作为一个星期的开始)
%w 十进制表示的星期几(星期天是0)
%W 十进制表示的一年中的第几个星期(星期一作为一个星期的开始)
%x 重新设置本地日期(08/20/99)
%X 重新设置本地时间(12：00：00)
%y 两位数字表示的年(99)
%Y 当前月份
%Z 时区(PDT)
%% 百分号(%)

实例：

$ awk '{ now=strftime( "%D", systime() ); print now }'
$ awk '{ now=strftime("%m/%d/%y"); print now }'

14.8.3. 内建数学函数

Table 4.
函数名称 返回值
atan2(x,y) y,x范围内的余切
cos(x) 余弦函数
exp(x) 求幂
int(x) 取整
log(x) 自然对数
rand() 随机数
sin(x) 正弦
sqrt(x) 平方根
srand(x) x是rand()函数的种子
int(x) 取整，过程没有舍入
rand() 产生一个大于等于0而小于1的随机数
14.8.4. 自定义函数

在awk中还可自定义函数，格式如下：

function name ( parameter, parameter, parameter, ... ) {
statements
return expression # the return statement and expression are optional
}

15. How-to

*

如何把一行竖排的数据转换成横排？

awk '{printf("%s,",$1)}' filename




awk 小技巧：
-----------------------------------
１。getline读入替换：
$cat a.txt
sdsoijofsjodfijasodf
jdjfosidfjosijd
#wflag#
some config
aaaa bbbb
cccc sdsdf
#/wflag#
doaijsdofijs
fdjsodfijasodf
sdjfoasdijfosa

$cat b.txt
#wflag#
xxxxx yyyyy
dfsdfasd jlijoiioi
sldfjadskf kjkljl
#/wflag#

要求：用b中的内容，替换a文件中#wflag#和#/wflag#之间的内容。

A:
sed -n '/#wflag#/,/#\/wflag#/!p;/#\/wflag#/rb' a.txt
sed -e '/#wflag#/,/#\/wflag#/d' -e '/jdjfosidfjosijd/rb' a.txt
awk '/#wflag#/,/#\/wflag#/{getline < "b.txt"}{print}' a.txt

2.
想在ghi的后面第20行的时候插入新的一行“good",请问怎么实现？多谢了。
abc
def
ghi
ee
aaaa
gold
.....
.....

A:awk '/ghi/{s=NR+21}NR==s{print "good"}1' URFILE

3.如何在同一个目录下不退出vim而浏览、编辑文件？
:sp path/filename
:e . 再配合 C-^来切换。
4.我的日志格式为：
09:55:54: ERROR1 /tmp/error/log.3 50 times
09:56:09: ERROR1 /tmp/error/log.14 50 times
10:56:12: ERROR1 /tmp/error/log.14 100 times
10:56:23: ERROR2 /tmp/error/log.5 50 times
11:56:26: ERROR2 /tmp/error/log.1 50 times
11:56:27: ERROR2 /tmp/error/log.5 100 times
15:56:29: ERROR3 /tmp/error/log.1 100 times
15:56:32: ERROR3 /tmp/error/log.1 150 times
16:56:33: ERROR4 /tmp/error/log.6 50 times
16:56:36: ERROR4 /tmp/error/log.6 100 times
16:56:40: ERROR4 /tmp/error/log.12 50 times

我想统计某时段某种类型的告警次数，时段取第一列第一个：之前的字符，告警类型取第二列，值不定，后面的字符可以不管。我想输出结果为：
09时ERROR1告警为2条。
10时ERROR1告警为1条。
10时ERROR2告警为1条。
11时ERROR2告警为2条。
15时ERROR3告警为2条。
16时ERROR4告警为3条。

A:awk -F'[: ]+' '{a[$1"时"$4]++}END{for(i in a)print i"告警为"a[i]"条."}' ufile

5.现有文件a.txt
里有数据：
abc
abc
13688888
13866666
13688888
13700000

现在要实现直接跳到第三行，从第三行开始过滤重复号码，并排序后输出到另一文件中.
A:
awk 'NR>2 && (! a[$1]++)' a.txt | sort
6.
有一文件内容如下：
ww.sina.com.cn 2 1 min/avg/max/mdev 23.386/23.386/23.386/0.000
想把其中的所有“/”都替换成“ ”（既空格），使新内容为：
ww.sina.com.cn 2 1 min avg max mdev 23.386 23.386 23.386 0.000

A:
awk -F'[/ ]+' '$1=$1' ufile
sed 's/\// /g' urfile

7.
例如：
Warning : This attribute will be obsolete in a next major release. [TUI-32]
Warning : This attribute will be obsolete in a next major release.[TUI-32]
Warning : This attribute will be obsolete in a next major release. [TUI-32]
Warning : Libraries have inconsistent nominal operating conditions. [LBR-38]
Warning : Libraries have inconsistent nominal operating conditions. [LBR-38]
Warning : Libraries have inconsistent nominal operating conditions. [LBR-38]
想得到结果：
[TUI-32]
[TUI-32]
[TUI-32]
[LBR-38]
[LBR-38]
[LBR-38]
即，只想得到[]里面的内容，包括[]。
记得好像能够用awk -F"[][]+"'{print $0}'的,但是不行.
A:
$awk -F. '{print $2}'
$awk -F'[][]' '{print $2}'
$sed 's/.*\(\[.*\]\)/\1/'

8.
例如：
aaaaaa,bbbbbb,ccccccc
sssssss,fffffffffff,wwwww
eeeeee,rrrrrrrrr,2222222
aaaaaa,qqqqqq,wwwwww
sssssss,wwwww,3333333
..........................................
..........................................
...........................................
...........................................
eeeeeee,tttttttttt,44444444
以逗号分隔，就是如果第一列是重复的，不管后边的列，只取一行，怎么取？

A:
awk -F, '!a[$1]++' urfile

9.
怎么修改日期而不改变时间？
如：date "-s 2009-02-04"，后面不带时间的话，时间会变为0:0
有没有办法不改变时间呢？
A:
date -s "2009-02-04 `date +%T`" #双引号内的date +%T用反引号刮起来

10.
比如有一个patch列表文件：patch.list
里面包含多个patch的名字, 如下
a.patch
b.patch
c.patch
请问可否用命令一次将patch.list里包含的三个patch全部打上？而不用分别执行：
patch -p1 < a.patch
patch -p1 < b.patch
patch -p1 < c.patch

A:while read line ;do patch -p1 < $line ;done FNR{if(substr($1,3,3) in a) print }' 1 2

12.
我要吧一个文件中都用的所有行都用一行表示：
比如：
[root@zhang hehe]# cat a
1
2
3

A:
tr '\n' ' '< a
sed -e:a -e 'N;s/\n/ /g;ta' a
awk 'BEGIN{ORS=" "}{print $0}' a

13: awk 多次匹配的问题
$ cat a
11234
555567890
ccccc
55
5

A:
$awk --posix '/5{2,4}/{print $0}' a
555567890
55

14.awk中如何使用两个匹配条件
111 222
想必须两个全部匹配

A: /111/&&/222/

15: 如何判断文本里面是否有空行,是哪一行?多谢
A:
grep -n '^$' urfile
sed -n '/^$/='
awk '/^$/{print NR}'


14.怎样将文本中某个中文替换成英文字符串呢?
A:
如果是编码不一想造成的，转换编码就可以了.用iconv命令.
有些文件用file是查不出来的，试试enca.
enca应该是可以的啊，知道是中文的话这样 ，不过，enca系统没带，是要装的
enca -L zh_CN -x UTF-8 < file1 > file2
如果不想装，还可以通过gedit或vim来识别
用vim打开后，set fileencoding会显示其编码
如果打开就是乱码，请先配置一下你的vim，加入识别的
set fileencoding=gb18030
set fileencodings=utf-8,gb18030,utf-16,big5......

15.
一个文本文件，每行字符数不定，如果没有400个字符，便在后面补充空格至400字符，请问用什么命令达此目的.
A:
awk '{printf "%-400s\n",$0}' urfile
sed -e ':a;s/^.\{1,400\}$/& /;ta' urfile

16.为什么会这样，同一个文件却显示不同的内容.
cat的结果
ACCEPT connect_to char prompt 'Database Connect String: '
vi的结果
ACCEPT connect_to char prompt 'Database Connect String: '^M

A:^M是控制字符，cat要加Ａ参数才显示　

17.如何实现两个文件相减的功能.
例子：file1:
1 ww
2 mm
3 df
4 df
5 sf
6 as
7 jk
8 mk
a kl
b lk
c kk
d ll
file2:
d ll
c kk
2 mm
结果：file1-file2:去除掉file2中的行

A:grep -vFf file2 file1

18.
现在有个文件c，内容如下：
001 002 010 015
现在要把上面的c文件中的001 002 010 015变成1 2 10 15，也就是说吧各个字段前面的0去掉，现在要求必须用循环来实现，if，while，for都可以，只要是循环就OK.
A:
awk '{for (i=1;i<=NF;i++)sub(/^0+/,"",$i);print}'

19.如何实现批量改名.
我现在有一个文件aaa.txt里面的数据如下
caa1.dat bbb1.dat
af2.dat dfaddbbb2.dat
aa9999a3.dat bb3.dat
想通过这个文件来实现批量改名，也就是把aaa的文件变成bbb的文件.实际上文件名是没有规律的.

A:
sed 's/^/mv /' aaa.txt | sh
awk '{print "mv "$1" "$2;}' aaa.txt|sh

20.把
site:
site:
site:mp3.baidu.com
在没有http://的加上http://

A: sed '/http/!s#:#:'

21.多个文件合并.
1.txt
张三 123
李四 qwe
2.txt
李四 qwe
张三 456
3.txt
王五
张三 abc

想合并成
张三 123 456 abc
李四 qwe qwe
王五

就是姓名不变。
A：awk '{for(k=2;k<=NF;k++)a[$1]=a[$1]" "$k}END{for(i in a)print a}'

22.sort排序
对ip地址排序
怎么排？
12.45.123.34
12.45.37.145

先按第一个域从小到大排，再第二个，第三个，第四个
是按数字，而不是ascII.

A:sort -t. -k1,1n -k2,2n -k3,3n -k4,4n urfile


23.shell 中如何判断两个文件的内容是否一样.
A:
cmp和diff都可以
取返回值 $?

24.简单、有效的脚本跟踪、调试技巧
A:使用sh –x，使用-x参数能看到脚本的具体执行过程
A:如何将执行的过程完整的保存到一个文件内供反复参看:
sh –x gurb-install >grub.log 2>&1
或者：在执行脚本前先执行一下script命令，脚本执行的所有输出都会保存在当前目录下一个文件中，文件名默认是typescript.
用script的特点是：所有输出到终端的内容都会存入typescript文件，不管是错误信息还是正确信息.
A：真正执行的脚本之前，让执行的过程也显示行号，对照着看，就会省时省力。
把以下的代码加入原脚本的#! /bin/sh之后，
trap 'echo "before execute line:$LINENO" >/dev/null' DEBUG
A:如果你用vim -O2 /sbin/grub-install typescript命令打开的双垂直窗口，左边是脚本，右边是脚本执行步骤，那效果就绝对好了。这种方式在同一个界面中参看，更直观的可以看到脚本和脚本执行之间的关系。（TIPS：1、使用CTRL-w-w开关进行两个窗口的切换。2、在使用wq、q！命令退出窗口时，记得在q后面加上a，可以一次同时退出所有窗口）.

25.awk 数组连接字符串问题
a[$1$2]+=$3类似这样的形式，$3是个字符串.但是awk好像不能连接字符串呢
A:a[$1$2]+=$3 是值相加, 两值要为数字, 如果不是数据结果返回0
字符串连接a[$1$2]=a[$1$2]$3

26.请问^M是啥意思
A:回车符 \r

27:用awk不能实现这样的查找吗,就是从一个匹配的字符3到行尾.
cat test
1
2
3
4
5
6
7
8
9
0

A:awk '/3/,0' test
0表示false，就是不让你用/3/打开的水笼头自动关上.
28.关于逐行替换某个字段的问题
现在有下面的文本a.dat，第二个字段为身份证号
12||123456789097843292||张三||男
13||145869585747362358||李四||女
14||174038485869504029||王五||男
15||102848595948382728||赵六||男
16||182857574385868473||马七||女

有这样的需求：因保密的需要，把每行第二个字段（身份证）经MD5计算哈希值后，将计算出的哈希值替换原身份证号。已经编写好MD5程序，名称为MD5BASE64。怎样实现呢？

A:awk -F"\|\|" '{printf("%s||",$1);system("./tt1 "$2);printf("||%s||%s||%s",$3,$4,$5);printf "\n";}' dfile2|sed '$d'
假设./tt1为加密软件

29.awk中的三目运算，条件表达式的写法
现有一文件
# cat test
22,44
33,11
15,51
想取出两列中大的那个数，即
44
33
51
用awk写，有种方法可以实现# cat test | awk -F"," '{ if($1>$2) {print $1} else {print $2}}'
问题是，如果想用三目运算符来写，即 x>y?x:y，如何在awk中实现？
A:awk -F, '{max=$1>$2?$1:$2;print max}' test

30.用awk 统计访问地址在每分钟内的访问次数：
192.168.10.232 - - [23/Feb/2009:08:50:27 +0800] "GET /images/search_icon03.png HTTP/1.1" 200
A:awk -F'[[/:]' '{a[$2"/"$3"/"$4":"$5":"$6]++}END{for (i in a) print i,a[i]}'

31各种工具之正则表达式语法比较
http://blog.chinaunix.net/u/634/showart.php?id=2466

32.在windows上，如果要连接远程的linux桌面，
一般可以用xwin32或winaxe等工具。
这些工具都不是free的。不过如果你安装的cygwin以及其中的xfree86，
完全可以用cygwin的功能来远程登录kde或gnome，
效果一点不差，而且还free。使用过程也不麻烦，只要以下区区几步即可。
在cygwin的命令行下:
1. 执行 XWin&
可以看到一个XWindow的根窗口出来了。
2. 执行 xterm -display=127.0.0.1:0.0
这时候在XWindow的根窗口里会出现一个console窗口，
您可以在里面执行任何cygwin命令
3. 在第二步的console窗口里，键入
xhost +
这将允许连接远程的x客户
4. 如果你要显示另一台linux的桌面，
（假设对方ip为10.130.11.22，自己的ip为10.130.11.8），
telnet 10.130.11.22
成功登陆后，在telnet里打入
export DISPLAY=10.130.11.8:0.0
startkde&
不出意外，这时候您就可以登禄kde窗口了。

33.awk过滤问题
要滤出一列数据并打印。但这列数据有百分号，全是百分比。我能不能把百分号也滤掉？？
A:echo "xxx 17.1%" | awk '{print substr($2,1,length($2)-1)}'
echo "xxx 17.1%" | awk '{sub(/%/,"",$2);print $2}'
echo "10%" | awk '{print $1+0}'

34.如文件1：
123|阿巴丹|12345|99w2s|92sdfs|
123|22222|12346|99w2s|92sdfs|
123|22222|12346|99w2s|92sdfs|
123|22222|12346|99w2s|92sdfs|
123|22222|123466|99w2s|92sdfs|
要求如下：
将文件中第三个字段由5位升级为10位，规则是：如果第三个字段长度是5，则进行升位，第1位和第2位之间补5个0。
A:awk -F "|" 'length($3)==5{$3=substr($3,1,1)"00000"substr($3,2)}1' file

35.在vim里怎样在10到20行加#注释.
A:
10,20s/^/#/

sed '10,20s/^/#/' urfie

vim中跳到10行
ctrl+v 进入列模式
按向下方向键选择 10-20行
shift + i 键（也就是大写的I）
输入#
按ESC键
ok!

36.如何用awk实现显示第二个字段到最后一个字段呢?
文件如
1 33 34
2 33 43
3 443 43
4 33 34
5 43 343
要只显示第二列第三列，不要写死$2,$3这样的

A:awk '$1="";1' file
sed 's/^..//;' file

37.
.vi 中如何在另一文件下拷贝固定行数
VI中，如何把一文件（file1）的指定行（比如n,m行)复制粘贴到另一文件（file2）的指定行下呢？
A: 追加 :m,n w>> file1
或者：
用vi打开file
y
:e file2
p

或者：
vi -O2 file1 file2
:m,n y
ctrl+w
p

38.如何计算两个日期的间隔？
A:
n=$(((`date -d"2009-03-01" +'%s'`-`date -d"2009-02-01" +'%s'`)/86400))
echo $n

39.
20090721PTPDbdd5dbed-1500-4be4-a86e-4fe5acfccc1a
用awk取出中间的 PTPD 各位有什么好的方法
A:
LANG=C;echo 20090721PTPDbdd5dbed-1500-4be4-a86e-4fe5acfccc1a|awk '{gsub(/[^A-Z]/,"");print}'
即非大写字母全部替换成空。

40.如何得到一个字段后的内容。
a b c /web/html/xymj.jsp
d c ba /web/html/cc/sdfmj.jsp
d c ba /web/html/cc/abc sdfmj.jsp
希望得到 /web/html/ 后面的内容 (注意要的结果中,有些含空格的)
xymj.jsp
cc/sdfmj.jsp
cc/abc sdfmj.jsp

A:awk -F "/web/html/" '{print $NF}' file

41.AWK统计时参数赋值问题。
有一个文件，我要统计每个人的平均分：
[root@zhang shell]# cat c
john 85 92 78 94 88
andrea 89 90 75 90 86
jasper 84 88 80 92 84
[root@zhang shell]# awk '{for(i=2;i<=NF;++i) sum+=$i}{print $1,sum/(NF-1)}' c
john 87.4
andrea 173.4
jasper 259
我算出来的怎么不对？？？
难道非要这样： awk '{sum=$2+$3+$4+$5+$6}{print $1,sum/5}' c
请高手帮忙，今天迷糊了！！！

A：awk '{for(i=2;i<=NF;++i) sum+=$i}{print $1,sum/(NF-1);sum=0}'

42.如何确定文件列是否连续
有下面这样的一个文件
256327680 256327681 0
256327681 256327682 256327680
256327682 256327683 256327681
256327683 256327684 256327682
256327684 256327685 256327683
256327685 256327686 256327684
256327686 256327687 256327685
256327687 256327688 256327686
256327688 256327689 256327687
256327689 256327690 256327688
256327690 0 256327689
如何用shell统计第一列的值是否连续？ 第一行的第三列为0，最后一行的第二列为0.
A:awk 'NR>1&&$1!=a+1{print "line"NR-1": "a,"line"NR": "$1}{a=$1}' urfile

43.一个排序问题
有下面格式的文件:
2009/01/01
Q: 200
2009/01/02
Q: 300
2009/01/03
Q: 100
2009/01/04
Q: 150
想根据日期下面的数字排序,得到:
2009/01/02
Q: 300
2009/01/01
Q: 200
2009/01/04
Q: 150
2009/01/03
Q: 100


A:paste - - < file | sort -k3nr | awk '{print $1"\n"$2,$3}'
解释：
paste - - < file 的意思就是把file的2倍列宽合成一个新文件 相当于 paste -sd"\t\n" file
paste - - - < file 就是3倍了 ... 相当于 paste -sd"\t\t\n" file

44.awk数据类型转换。
52%
9.72%
?
0.00%
18.49%
21.16%
97.33%
23.75%
44.
用awk '{if($1 > "80%") print $1}' file ，我想用这句awk 取出大于该列值大于80%的值，但是结果中却包含了问号（？）以及 9.72%。

A：awk '{if($1-0>80)print $1}' filename
awk只有二种数据类型，数和字符串，进行加法运算时，awk把不是数的变量强制转换成数.
其实，+ - * / 都可以，只是需要个语境，或者说上下文。

45.
假如文件A格式如下：
100,192.23.148.24:14077
101,192.23.148.50:14077
102,192.23.148.57:14077
103,192.27.20.51:14077
104,192.27.20.53:14077

而，文件B的内容如下：
1.ua.com,192.27.20.51
2.ua.com,192.27.20.24
3.ua.com,192.27.20.51
4.ua.com,192.27.20.51
5.ua.com,192.27.20.53
6.ua.com,192.27.20.50
7.ua.com,192.27.20.50
8.ua.com,192.27.20.57
9.ua.com,192.27.20.24
10.ua.com,192.27.20.51
11.ua.com,192.27.20.53

现在将B文件中的IP地址根据文件A中相同的IP地址，替换成文件A中第一列的值，替换后内容存入文件C中，文件C内容应当是:
1.ua.com,103
2.ua.com,100
3.ua.com,103
4.ua.com,103
5.ua.com,104
6.ua.com,101
7.ua.com,101
8.ua.com,102
9.ua.com,100
10.ua.com,103
11.ua.com,104

A:
awk -F'[,:]' 'NR==FNR{a[$2]=$1}NR>FNR&&a[$2]{print $1","a[$2]}' A B
awk -F'[,:]' 'NR==FNR{a[$1]=$2} NR>FNR{for(i in a) if($2 ~ a[i]) print i","$1}' B A|sort -n
备注：思路不同

46.
有两个文件
a.txt:
1 20.4
2 34
3 12

b.txt
1 25
2 30
3 11
比较两个文件中第二列的值(第一列为匹配列) 如果 a 里的值大于 b 里值 ， 就输出 第一列到一个新文件里
A:awk 'NR==FNR{a[$1]=$2}NR>FNR&&a[$1]>$2{print $1>"c"}' a b

47. $SHELLOPTS ??
48.文档a
1 2 a
3 4 b
5 6 c
7 8 d
-------------------
文档b
10 a
11 b
12 c
-------------------
想要的结果是
1 2 10 a
3 4 11 b
5 6 12 c
7 8 d

A:awk 'NR==FNR{b[$2]=$1}NR>FNR{if(b[$3])print $1" "$2" "b[$3]" "$3; else print $1,$2," ",$3}' a b

49.如文件a 的格式如下，
1,2009-04-08 10:20:15
2,2009-04-12 18:10:15
3,2009-02-16 13:50:15
4,2009-03-18 14:30:15
5,2009-04-17 18:30:15

现需要用awk判断第二个字段与当前时间判断大小.
A:awk -F, 'BEGIN{now=strftime("%F %T" ,systime())}$2<"/dev/tty";print var}'

51.awk里如何检测一行中某个pattern只出现一次
文件内容：
a b c
a a b
b c d
我想取得a只出现一次的行

A: awk '{for(i=1;i<=NF;i++)if($i=="a")++j}{if(j==1)print;j=0}' filename
awk '{old=$0;if(gsub(/a/,"#")==1) print old}' filename

52.
mkdir tmp[1-5]
理应新建tmp1 -- tmp5 这样5个目录
但是shell直接把中括号转义了就建了个tmp[1-5]目录
但是呢~
手动新建tmp1 -- tmp5 这样5个目录
然后
rmdir tmp[1-5]
又可以删除这5个目录
很奇怪

A:
mkdir tmp{1..5}
rm -rf tmp{1..5}
通配符(出现在argument位置)由shell负责解释(与现有的文件名匹配),与具体的命令(ls,rm,mkdir)无关.正则表达式(出现在option位置上)由具体的应用程序解释(grep,sed,awk),与shell无关。

53.
有一个文件，如下，用shell怎么能统计出每个数字出现的次数？谢谢：）

1，2，3，4
1，2
2，4，6，7，8
2，3，6，9
5，7，3

A:
awk -F "," '{for (i=1;i<=NF;i++)a[$i]++}END{for (i in a) print a[i]"times",i}' aa

54.
有如下文本（不在同一行里）：
aaa bbb
ccc eeee
#
ffff gggg
我想使用awk输出#分格符号前的
aaa bbb
ccc eeee
请问大家如何实现？

A:
awk '/^#/{exit}1' URFILE

55.awk 从外部接收变量
比如我要写一个a.sh，指令是./a.sh 5 7 myfile，那么就是从myfile里读取5到7行:
#!/bin/bash
awk  '{if((NR>='$1')&&(NR<='$2'))print $0}'  $3

执行如下： ./a.sh 5 7 myfile

------------47-