本文将介绍Linux下使用Shell处理文本时最常用的工具:
find、grep、xargs、sort、uniq、tr、cut、paste、wc、sed、awk;
提供的例子和参数都是最常用和最为实用的;
对shell脚本使用的原则是命令单行书写,尽量不要超过2行;
如果有更为复杂的任务需求,还是考虑python吧;
01 find 文件查找
1 查找txt和pdf文件
2 正则方式查找.txt和pdf
-iregex:忽略大小写的正则
3 否定参数
查找所有非txt文本
4 指定搜索深度
打印出当前目录的文件(深度为1)
5 定制搜索
按类型搜索:
按时间搜索:
最近7天被访问过的所有文件:
按大小搜索:
w字 k M G
寻找大于2k的文件
按权限查找:
按用户查找:
6 找到后的后续动作
删除:
删除当前目录下所有的swp文件:
执行动作(强大的exec)
注:{}是一个特殊的字符串,对于每一个匹配的文件,{}会被替换成相应的文件名;
eg:将找到的文件全都copy到另一个目录:
7 结合多个命令
tips: 如果需要后续执行多个命令,可以将多个命令写成一个脚本。然后 -exec 调用时执行脚本即可;
默认使用' '作为文件的定界符;
常用参数:
1 在多级目录中对文本递归搜索(程序员搜代码的最爱):
2 匹配多个模式
3 grep输出以作为结尾符的文件名:(-z)
4 xargs 命令行参数转换
xargs 能够将输入数据转化为特定命令的命令行参数;这样,可以配合很多命令来组合使用。比如grep,比如find;
将多行输出转化为单行输出
是多行文本间的定界符
将单行转化为多行输出
xargs参数说明
03 sort 排序
字段说明:
04 uniq 消除重复行
消除重复行
统计各行在文件中出现的次数
找出重复行
可指定每行中需要比较的重复内容:-s 开始位置 -w 比较字符数
05 用 tr 进行转换
通用用法
tr删除字符
-c 求补集
tr压缩字符
字符类
tr中可用各种字符类:
截取文件的第2列和第4列:
去文件除第3列的所有列:
-d 指定定界符:
cut 取的范围
cut 取的单位
07 paste 按列拼接文本
将两个文本按列拼接到一起;
默认的定界符是制表符,可以用-d指明定界符
08 wc 统计行和字符的工具
09 sed 文本替换利器
首处替换
全局替换
默认替换后,输出替换后的内容,如果需要直接替换原文件,使用-i:
移除空白行:
变量转换
已匹配的字符串通过标记&来引用.
子串匹配标记
第一个匹配的括号内容使用标记 来引用
双引号求值
sed通常用单引号来引用;也可使用双引号,使用双引号后,双引号会对表达式求值:
当使用双引号时,我们可以在sed样式和替换字符串中指定变量;
其它示例
字符串插入字符:将文本中每行内容(PEKSHA) 转换为 PEK/SHA
10 awk 数据流处理工具
awk脚本结构
工作方式
1.执行begin中语句块;
2.从文件或stdin中读入一行,然后执行statements2,重复这个过程,直到文件全部被读取完毕;
3.执行end语句块;
print 打印当前行
使用不带参数的print时,会打印当前行;
print 以逗号分割时,参数以空格定界;
使用-拼接符的方式(""作为拼接符);
特殊变量:NR NF $0 $1 $2
打印每一行的第二和第三个字段:
统计文件的行数:
累加每一行的第一个字段:
传递外部变量
用样式对awk处理的行进行过滤
设置定界符
使用-F来设置定界符(默认为空格)
读取命令输出
使用getline,将外部shell命令的输出读入到变量cmdout中;
在awk中使用循环
以逆序的形式打印行:(tac命令的实现)
awk实现head、tail命令
打印指定列
awk方式实现:
cut方式实现
打印指定文本区域
确定行号
确定文本
打印处于startpattern 和endpattern之间的文本;
awk常用内建函数
printf 类似c语言中的printf,对输出进行格式化
迭代文件中的行、单词和字符
1. 迭代文件中的每一行
2.迭代一行中的每一个单词
3. 迭代每一个字符
扩展阅读
来源:https://www.cnblogs.com/me115/p/3427319.html