Awk学习笔记

awk 是一种编程语言，用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件，或其它命令的输出。它支持用户自定义函数和 动态正则表达式等先进功能，是linux/unix下的一个强大编程工具。它在命令行中使用，但更多是作为脚本来使用。awk的处理文本和数据的方式是这 样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出 (屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是Alfred Aho、Brian Kernighan、Peter Weinberger。gawk是awk的GNU版本，它提供了Bell实验室和GNU的一些扩展。下面介绍的awk是以GUN的gawk为例的，在 linux系统中已把awk链接到gawk，所以下面全部以awk进行介绍。

-F fs or --field-separator fs

指定输入文件折分隔符，fs是一个字符串或者是一个正则表达式，如-F:。

-v var=value or --asign var=value

赋值一个用户定义变量。

-f scripfile or --file scriptfile

从脚本文件中读取awk命令。

-mf nnn and -mr nnn

对nnn值设置内在限制，-mf选项限制分配给nnn的最大块数目；-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能，在标准awk中不适用。

-W compact or --compat, -W traditional or --traditional

在兼容模式下运行awk。所以gawk的行为和标准的awk完全一样，所有的awk扩展都被忽略。

-W copyleft or --copyleft, -W copyright or --copyright

打印简短的版权信息。

-W help or --help, -W usage or --usage

打印全部awk选项和每个选项的简短说明。

-W lint or --lint

打印不能向传统unix平台移植的结构的警告。

-W lint-old or --lint-old

打印关于不能向传统unix平台移植的结构的警告。

-W posix

打开兼容模式。但有以下限制，不识别：\x、函数关键字、func、换码序列以及当fs是一个空格时，将新行作为一个域分隔符；操作符**和**=不能代替^和^=；fflush无效。

-W re-interval or --re-inerval

允许间隔正则表达式的使用，参考(grep中的Posix字符类)，如括号表达式[[:alpha:]]。

-W source program-text or --source program-text

使用program-text作为源代码，可与-f命令混用。

-W version or --version

打印bug报告信息的版本。

关系表达式：可以用下面运算符表中的关系运算符进行操作，可以是字符串或数字的比较，如$2 %1选择第二个字段比第一个字段长的行。

BEGIN：让用户指定在第一条输入记录被处理之前所发生的动作，通常可在这里设置全局变量。

操作由一人或多个命令、函数、表达式组成，之间由换行符或分号隔开，并位于大括号内。主要有四部份：

awk把每一个以换行符结束的行称为一个记录。

记录分隔符：默认的输入和输出的分隔符都是回车，保存在内建变量ORS和RS中。

$0变量：它指的是整条记录。如$ awk {print $0} test将输出test文件中的所有记录。

变量NR：一个计数器，每处理完一条记录，NR的值就增加1。如$ awk {print NR,$0} test将输出test文件中所有记录，并在记录前显示记录号。

记录中每个单词称做“域”，默认情况下以空格或tab分隔。awk可跟踪域的个数，并在内建变量NF中保存该值。如$ awk {print $1,$3} test将打印test文件中第一和第三个以空格分开的列(域)。

内建变量FS保存输入域分隔符的值，默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: {print $1,$5} test将打印以冒号为分隔符的第一，第五列的内容。

可以同时使用多个域分隔符，这时应该把分隔符写成放到方括号中，如$awk -F[:\t] {print $1,$3} test，表示以空格、冒号和tab作为分隔符。

输出域的分隔符默认是一个空格，保存在OFS中。如$ awk -F: {print $1,$5} test，$1和$5间的逗号就是OFS的值。

一般通用的元字符集就不讲了，可参考我的Sed和Grep学习笔记。以下几个是gawk专用的，不适合unix版本的awk。

匹配一个单词开头或者末尾的空字符串。

匹配单词内的空字符串。

匹配一个单词的开头的空字符串，锚定开始。

匹配一个单词的末尾的空字符串，锚定末尾。

匹配一个字母数字组成的单词。

匹配一个非字母数字组成的单词。

匹配字符串开头的一个空字符串。

匹配字符串末尾的一个空字符串。

用来在记录或者域内匹配正则表达式。如$ awk $1 ~/^root/ test将显示test文件第一列中以root开头的行。

conditional expression1 ? expression2: expression3，例如：$ awk {max = {$1 $3} ? $1: $3: print max} test。如果第一个域大于第三个域，$1就赋值给max，否则$3就赋值给max。

$ awk $1 + $2 100 test。如果第一和第二个域相加大于100，则打印这些行。

$ awk $1 5 $2 10 test,如果第一个域大于5，并且第二个域小于10，则打印这些行。

范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现，则匹配到开头或末尾。如$ awk /root/,/mysql/ test将显示root第一次出现到mysql第一次出现之间的所有行。

$ cat /etc/passwd | awk -F: \ NF != 7{\ printf("line %d,does not have 7 fields:%s\n",NR,$0)}\ $1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\ $2 == "*" {printf("line %d, no password: %s\n",NR,$0)}

如果第一个域没有包含任何字母和数字，printf打印“no alpha and numeric user id" ，并显示记录数和记录。

如果第二个域是一个星号，就打印字符串“no passwd”，紧跟着显示记录数和记录本身。

$ awk $1 ~/[0-9][0-9]$/(print $1} test-----如果第一个域以两个数字结束就打印这个记录。

$ awk $1 == 100 || $2 50 test-----如果第一个或等于100或者第二个域小于50，则打印该行。

$ awk /test/{print $1 + 10} test-----如果记录包含正则表达式test，则第一个域加10并打印出来。

$ awk {print ($1 5 ? "ok "$1: "error"$1)} test-----如果第一个域大于5则打印问号后面的表达式值，否则打印冒号后面的表达式值。

$ awk /^root/,/^mysql/ test----打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记 录，则继续打印直到下一个以正则表达式mysql开头的记录为止，或到文件末尾。

赋 值格式：Variable = expression，如$ awk $1 ~/test/{count = $2 + $3; print count} test,上式的作用是,awk先扫描第一个域，一旦test匹配，就把第二个域的值加上第三个域的值，并把结果赋值给变量count，最后打印出来。

awk 可以在命令行中给变量赋值，然后将这个变量传输给awk脚本。如$ awk -F: -f awkscript month=4 year=2004 test，上式的month和year都是自定义变量，分别被赋值为4和2004。在awk脚本中，这些变量使用起来就象是在脚本中建立的一样。注意，如 果参数前面出现test，那么在BEGIN语句中的变量就不能被使用。

域变量也可被赋值和修改，如$ awk {$2 = 100 + $1; print } test,上式表示，如果第二个域不存在，awk将计算表达式100加$1的值，并将其赋值给$2，如果第二个域存在，则用表达式的值覆盖$2原来的值。 再例如：$ awk $1 == "root"{$1 ="test";print} test，如果第一个域的值是“root”，则把它赋值为“test”，注意，字符串一定要用双引号。

内建变量的使用。 变量列表在前面已列出，现在举个例子说明一下。$ awk -F: {IGNORECASE=1; $1 == "MARY"{print NR,$1,$2,$NF}test，把IGNORECASE设为1代表忽略大小写，打印第一个域是mary的记录数、第一个域、第二个域和最后一个 域。

BEGIN 模块后紧跟着动作块，这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值，如 OFS,RS和FS等，以及打印标题。如：$ awk BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test。上式表示，在处理输入文件以前，域分隔符(FS)被设为冒号，输出文件分隔符(OFS)被设置为制表符，输出记录分隔符(ORS)被设置为两个 换行符。$ awk BEGIN{print "TITLE TEST"}只打印标题。

END不匹配任何的输入文件，但是执行动作块中的所有动作，它在整个输入文件处理完成后被执行。如$ awk END{print "The number of records is" NR} test，上式将打印所有被处理的记录数。

awk 可使用shell的重定向符进行重定向输出，如：$ awk $1 = 100 {print $1 "output_file" } test。上式表示如果第一个域的值等于100，则把它输出到output_file中。也可以用 来重定向输出，但不清空文件，只做追加 操作。

输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件 获得输入。它负责从输入获得下一行的内容，并给NF,NR和FNR等内建变量赋值。如果得到一条记录，getline函数返回1，如果到达文件的末尾就返 回0，如果出现错误，例如打开文件失败，就返回-1。如：

$ awk BEGIN{ "date" | getline d; print d} test。执行linux的date命令，并通过管道输出给getline，然后再把输出赋值给自定义变量d，并打印它。

$ awk BEGIN{"date" | getline d; split(d,mon); print mon[2]} test。执行shell的date命令，并通过管道输出给getline，然后getline从管道中读取并将输入赋值给d，split函数把变量d转 化成数组mon，然后打印数组mon的第二个元素。

$ awk BEGIN{while( "ls" | getline) print}，命令ls的输出传递给geline作为输入，循环使getline从ls的输出中读取一行，并把它打印到屏幕。这里没有输入文件，因为 BEGIN块在打开输入文件前执行，所以可以忽略输入文件。

$ awk BEGIN{printf "What is your name?"; getline name "/dev/tty" } $1 ~name {print "Found" name on line ", NR "."} END{print "See you," name "."} test。在屏幕上打印”What is your name?",并等待用户应答。当一行输入完毕后，getline函数从终端接收该行输入，并把它储存在自定义变量name中。如果第一个域匹配变量 name的值，print函数就被执行，END块打印See you和name的值。

$ awk BEGIN{while (getline "/etc/passwd" 0) lc++; print lc}。awk将逐行读取文件/etc/passwd的内容，在到达文件末尾前，计数器lc一直增加，当到末尾时，打印lc的值。注意，如果文件不存 在，getline返回-1，如果到达文件的末尾就返回0，如果读到一行，就返回1，所以命令 while (getline "/etc/passwd")在文件不存在的情况下将陷入无限循环，因为返回-1表示逻辑真。

可以在awk中打开一个管 道，且同一时刻只能有一个管道存在。通过close()可关闭管道。如：$ awk {print $1, $2 | "sort" } test END {close("sort")}。awd把print语句的输出通过管道作为linux命令sort的输入,END块执行关闭管道操作。

fflush函数用以刷新输出缓冲区，如果没有参数，就刷新标准输出的缓冲区，如果以空字符串为参数，如fflush(""),则刷新所有文件和管道的输出缓冲区。

$ awk {if ($1 $2) print $2 "too high"} test。如果第一个域小于第二个域则打印。

$ awk {if ($1 $2) {count++; print "ok"}} test.如果第一个域小于第二个域，则count加一，并打印ok。

$ awk {if ($1 100) print $1 "bad" ; else print "ok"} test。如果$1大于100则打印$1 bad,否则打印ok。

$ awk {if ($1 100){ count++; print $1} else {count--; print $2} test。如果$1大于100，则count加一，并打印$1，否则count减一，并打印$1。

$ awk { i = 1; while ( i = NF ) { print NF,$i; i++}} test。变量的初始值为1，若i小于可等于NF(记录中域的个数),则执行打印语句，且i增加1。直到i的值大于NF.

breadkcontinue语句。break用于在满足条件的情况下跳出循环；continue用于在满足条件的情况下忽略后面的语句，直接返回循环的顶端。如：

exit语句用于结束awk程序，但不会略过END块。退出状态为0代表成功，非零值表示出错。

用 变量作为数组下标。如：$ awk {name[x++]=$2};END{for(i=0;i i++) print i,name[i]} test。数组name中的下标是一个自定义变量x，awk初始化x的值为0，在每次使用后增加1。第二个域的值被赋给name数组的各个元素。在END 模块中，for循环被用于循环整个数组，从下标为0的元素开始，打印那些存储在数组中的值。因为下标是关健字，所以它不一定从0开始，可以从任何值开始。

$ awk /^tom/{name[NR]=$1}; END{for(i in name){print name[i]}} test。打印有值的数组元素。打印的顺序是随机的。

用字符串作为下标。如：count["test"]

用域值作为数组的下标。一种新的 for循环方式，for (index_value in array) statement。如:$ awk {count[$1]++} END{for(name in count) print name,count[name]} test。该语句将打印$1中字符串出现的次数。它首先以第一个域作数组count的下标，第一个域变化，索引就变化。

delete 函数用于删除数组元素。如：$ awk {line[x++]=$1} END{for(x in line) delete(line[x])} test。分配给数组line的是第一个域的值，所有记录处理完成后，special for循环将删除每一个元素。

sub函数匹配记录中最大、最靠左边的子字符串的正则表达式，并用替换字符串替换这些字符串。如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的时候。格式如下： 

sub (regular expression, substitution string):

 sub (regular expression, substitution string, target string)

实例： 

$ awk { sub(/test/, "mytest"); print } testfile

 $ awk { sub(/test/, "mytest"); $1}; print } testfile

第一个例子在整个记录中匹配，替换只发生在第一次匹配发生的时候。如要在整个文件中进行匹配需要用到gsub

第二个例子在整个记录的第一个域中进行匹配，替换只发生在第一次匹配发生的时候。

gsub (regular expression, substitution string)

 gsub (regular expression, substitution string, target string)

实例： 

$ awk { gsub(/test/, "mytest"); print } testfile

 $ awk { gsub(/test/, "mytest"), $1 }; print } testfile

第一个例子在整个文档中匹配test，匹配的都被替换成mytest。

第二个例子在整个文档的第一个域中匹配，所有匹配的都被替换成mytest。

第一个实例返回test字符串的长度。

第二个实例返回testfile文件中第条记录的字符数。

substr函数返回从位置1开始的子字符串，如果指定长度超过实际长度，就返回整个字符串。格式如下： 

substr( string, starting position )

 substr( string, starting position, length of string )

实例： 

$ awk { print substr( "hello world", 7,11 ) }

上例截取了world子字符串。

match函数返回在字符串中正则表达式位置的索引，如果找不到指定的正则表达式则返回0。match函数会设置内建变量RSTART为字符串中子字符串的开始位置，RLENGTH为到子字符串末尾的字符个数。substr可利于这些变量来截取字符串。函数格式如下： 

$ awk {start=match("this is a test",/[a-z]+$/); print start}

 $ awk {start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }

第一个实例打印以连续小写字符结尾的开始位置，这里是11。

第二个实例还打印RSTART和RLENGTH变量，这里是11(start)，11(RSTART)，4(RLENGTH)。

split函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供，则按当前FS值进行分割。格式如下： 

split( string, array, field separator )

 split( string, array )

实例： 

$ awk { split( "20:18:00", time, ":" ); print time[2] }

$ awk { now=strftime( "%D", systime() ); print now }

 $ awk { now=strftime("%m/%d/%y"); print now }

5分钟入门AWK AWK是Linux上卓越的文本处理工具，它具有非常简单的语法结构，拥有强大的文本处理能力。AWK 是一种解释执行的编程语言，AWK 的名称是由它们设计者的名字缩写而来 —— Afred Aho, Peter Weinberger 与 Brian Kernighan。
AWK常用技巧 1.1 介绍 awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。
李名赫 博主从事的是物联网行业，目前在某知名智能家居科技公司担任家庭智能中心研发主管。欢迎交流！