awk的惊人表现
awk能够胜任差点儿全部的文本处理工作。
awk
调用
1.调用awk:
方式一:命令行方式
awk [-F field-separator ] ‘commands’ input-file(s)
[ -F域分隔符 ]是可选的,由于awk使用空格作为缺省的域分隔符,因此假设要浏览域间有空格的文本,不必指定这个选项,假设要浏览比如passwd文件.此文件名称域以冒号作为分隔符,则必须指明-F选项,如:
awk -F ‘commands’ input-file
方式二:将全部awk命令插入一个文件,并使阿瓦库程序可运行,然后用awk命令解释器作为脚本的首行,以便通过键入脚本名成功来调用它.
方式三:将全部的awk命令插入一个单纯文件,然后调用:
awk -f awk-script-file input-file(s)
-f选项指明在文件awk_script_file中的awk脚本,input_file(s)是使用awk进行浏览的文件名称.
模式和动作
不论什么awk语句都是有模式和动作组成.在一个awk脚本中可能有非常多语句,模式部分决定动作语句何时触发以及出发时间.处理即对数据进行的操作.假设省略模式部分,动作将时刻保持运行状态.模式能够是不论什么条件语句或符合语句或正則表達式.模式包括两个特殊字段BEGIN和END.使用BEGIN语句设置计数和打印头.BEGIN语句使用在不论什么文本浏览动作之前,之后文本浏览动作一句输入文本開始运行.END语句用来在awk完毕浏览动作后打印输出文本总数和结尾状态标识.
域和记录
使用$1,$3表示參照第一个和第三个域,注意这里使用逗号做域切割,假设希望打印一个有5个域的记录的全部域,可使用$0,意即全部域.
为打印一个域或全部域,使用printf命令,这是一个awk动作
模式和动作
模式:两个特殊段BEGIN和END
动作:实际动作大多在{}内指明
输出:
1.抽取域
命令:awk -F: '{print $1}' /etc/passwd
输出:打印/etc/passwd文件夹下的全部username
2.保存输出
awk -F: ‘{print $1}’ /etc/passwd |tee user 使用tee命令,在输出文件的同一时候,输出到屏幕
3.使用标准输出
awk -F : ‘{print $1}’ /etc/passwd > user3
4.打印全部记录
awk -F : ‘{print $0}’ /etc/passwd
5.打印单独记录
awk -F: ‘{print $1,$4}’ /etc/passwd
6.打印报告头
awk -F : ‘BEGIN{print “NAME ”}{print $1}’ /etc/passwd
7.打印结尾
awk -F: ‘{print $1}END{print “this is all users ”}’ /etc/passwd
条件操作符
1.匹配
awk -F : '{if($1~/root/) print}' /etc/passwd
分析:if($1~/roo/t) 表示假设file中包括root,打印他
2.精确匹配
使用符号==
awk -F: '{if($3==0) print}' /etc/passwd
3.不匹配
!~
awk -F: '{if($1!~/linuxone/) print}' /etc/passwd
精确不匹配
!=
awk -F: '{if($1!=/linuxone/) print}' /etc/passwd
4.小于
<
5.小于等于
<=
6.大于
>
7.设置大写和小写
awk ‘/[Rr]oot’ /etc/passwd
8.随意字符
awk -F : '{f($1~/^...t/) print}' /etc/passwd
分析:if($1~/^...t/)表示第四个字母是t
9.或关系匹配
awk -F : '{if($1~/(squid|nagios)/) print}' /etc/passwd
10.行首
awk '/^root/' /etc/passwd
分析:^root(行首包括root)
11 AND &&
awk -F : '{if($1=="root"&&$3=="0") print}' /etc/passwd
12.OR ||
内置变量:
|
变量名 |
含义 |
|
ARCC |
命令行參数个数 |
|
ARGV |
命令行參数列表 |
|
ENV |RON |
支持队列中的系统环境变量的使用 |
|
FNR |
浏览文件的记录数 |
|
FS |
置顶分隔符,等价于-F |
|
NF |
浏览记录的域的个数 |
|
NR |
一度的记录数 |
|
OFS |
输出域分隔符 |
|
ORS |
输出记录分隔符 |
|
RS |
控制记录分隔符 |
案例:
打印有多少行记录
awk 'END{print NR}' /etc/passwd
设置输入域到变量名
awk -F : '{name=$1;path=$7; if(name~/root/)print name" path is : " path}' /etc/passwd
域值比較操作
awk '{if($6<$7) print $0}' input-file
改动文本域仅仅显示改动的记录
awk -F : '{if($1=="root"){$1="nagios server" ; print}}' /etc/passwd
文件长度相加
ls -l | awk '/^[^d]/ {print $9" " $5}{tot+=$5}
END {print "total kb:"tot}'
内置的字符串函数
|
gsub(r,s) |
在整个$0中s替换r |
|
gsub(r,s,t) |
在整个t中s替换r |
|
index(s,t) |
返回s中字符串t的第一位置 |
|
length(s) |
返回s长度 |
|
match(s,r) |
測试s中是否包括匹配r的字符串 |
|
split(s,a,fs) |
在fs上将s分成序列a |
|
sub(s,) |
用$0中最左边也是最长的字符串替代 |
|
subtr(s,p) |
返回字符串s中从p開始的后缀部分 |
|
substr(s,p,n) |
返回字符串s中从p開始长度为n的后缀部分 |
1.gsub
awk 'gsub(/^root/,"netseek") {print}' /etc/passwd #将以root开头的字符串替换为netseek并打印
awk 'gsub(/0/,2){print}' /etc/passwd
awk '{print gsub(/0/,2) $0}' /etc/fstab
2.index
awk 'BEGIN{print index("root","o")}' #查询o在root字符串中出现的第一位置
awk -F : '$1=="root" {print index($1,"o")" " $1}' /etc/passwd
awk -F : '{print index($1,"o") $1}' /etc/passwd
3.length
awk -F : '{print length($1)}' /etc/passwd
wk -F : '$1=="root"{print length($1)" " $0}' /etc/passwd
4.match(在ANCD中查找C的位置)
awk 'BEGIN{print match("ANCD","C")}'
5.split返回字符串数组元素个数
awk 'BEGIN{print split("123#456#789",array,"#")}'
6.sub仅仅能替换指定域的第一个0
awk 'sub(/0/,2){print }' /etc/fstab
7.substr 依照起始位置以及长度返回字符串的一部分
awk 'BEGIN{print substr("www.baidu.com",5,9)}' #第五个子夫開始,取9个字符
awk 'BEGIN{print substr("www.baidu.com",5)}' #第五个位置開始,一直到最后
字符串屏蔽序列
|
符号 |
含义 |
|
退格符 |
|
|
f |
走纸换页 |
|
|
新行 |
|
|
回车 |
|
|
tab键(四个空格) |
|
c |
随意其它特殊字符 |
|
ddd |
八进制 |
案例:
awk -F : '{print $1,"" $2," " $3}' /etc/passwd
分析:print和printf两者效果不同
printf修饰符
- : 左对齐
width : 域的步长0表示0步长
.prec : 最大字符串长度,或小数点右边的位数
awk printf格式
|
符号 |
含义 |
|
%c |
ASCII字符 |
|
%d |
整数 |
|
%e |
科学计数法 |
|
%f |
浮点数 |
|
%g |
awk决定使用哪种浮点数转换,e或者f |
|
%o |
八进制数 |
|
%s |
字符串 |
|
%x |
十六进制 |
1.字符串转换
echo "65" | awk '{printf "%c ", $0}'
awk 'BEGIN{printf "%c " ,65}'
awk 'BEGIN{printf "%f ",999}'
2.格式化输出
awk -F : '{printf "%-15s %s ",$1,$3}' /etc/passwd
awk -F : 'BEGIN{printf "USER UID "}{printf "%-15s %s ",$1,$3}' /etc/passwd
3.向一行awk命令传值
who | awk '{if ($1==user) print $1 " you are connected :" $2}' user=$LOGNAME
4.awk脚本文件(在文件名称字后面加后缀.awk翻遍区分)
#!/bin/awk -f
BEGIN{
FS=":"
print "User UID"
print "----------------"
}
{printf "%-15s %s ",$1,$3}
END{
print "end"
}
分析:awk脚本文件开头一般都是这种：#!/bin/awk -f
已经指明了 -f 选项。
运行时，直接在awk脚本名后面加要处理的文件名称作为參数就可以。