🍖文件处理三剑客:sed awk grep

引入

我们都知道,在Linux中一切皆文件,比如配置文件,日志文件,启动文件等等

如果我们相对这些文件进行一些编辑查询等操作时,我们可能会想到一些vi,vim,cat,more等命令

但是这些命令效率不高,而在linux中有三种工具:顶配awk,中配sed,标配grep

使用这些工具,我们能够在达到同样效果的前提下节省大量的重复性工作,提高效率

文件内容可以是来自文件,也可以直接来自键盘或者管道等标准输入,最后的结果默认情况下是显示到终端的屏幕上,但是也可以输出到文件中

编辑文件也是这样,以前我们修改一个配置文件,需要移动光标到某一行,然后添加点文字,然后又移动光标到另一行,注释点东西.......可能修改一个配置文件下来需要花费数十分钟,还有可能改错了配置文件,又得返工

这还是一个配置文件,如果数十个数百个呢?因此当你学会了sed命令,你会发现利用它处理文件中的一系列修改是很有用的

只要想到在大约100多个文件中,处理20个不同的编辑操作可以在几分钟之内完成,你就会知道sed的强大了✅

天然支持管道

一.文本处理之sed

1.什么是sed

  • sed 被称为流式编辑器
  • 主要擅长对文件的编辑操作
  • 用法 : 事先制定好编辑文件的规则, 然后让sed自动完成对文件的整体编辑

2.为什么用sed (与vim对比)

  • 处理多个文件时
"sed"可以把处理文件的规则事先写好,然后用同一套规则编辑多个文件
而"vim"只能一个一个编辑
  • 处理大文件时
"sed"处理文件一次只处理一行, 即同一时间内存中只有文件的一行内容,
无论文件多大, 都不会对内存造成过大的压力
而"vim"是将文件所有内容一次性读入内存

3.sed的工作原理

  • sed 读取一行, 首先将这行放入到缓存中
  • 然后对其进行规则处理
  • 处理完成后才将缓存区的内容发送到终端屏幕
  • 存储 sed 读取到的内容的缓存区空间称之为 : 模式空间

4.怎么用sed

  • 语法结构

sed [选项] '[规则]' [文件]     #规则建议用单引号操作
sed [选项] '[定位 命令]' [文件]
  • 常用选项

选项 功能
-n 取消默认输出
-i 直接修改文件内容 (规则处理的结果 + 默认输出的结果) 覆盖入文件, 而不是输出

ps : 如果不使用 -i 选项 sed 软件只是修改在内存中的数据,并不会影响磁盘上的文件

  • 规则 (定位 + 命令)

    • 行号定位
    ⛅不填定位默认匹配所有行
    sed '1p' a.txt        #打印第一行(这里是定位了第一行)
    sed '1,3p' a.txt      #定位了 1~3 行
    sed '1p;3p' a.txt     #定位了第一行和第三行(命令与命令用";"隔开)
    
    • 正则定位
    sed '/^song/p' a.txt  #匹配以"song"开头的行并打印
    sed '/song$/p' a.txt  #匹配以"song"结尾的行并打印
    sed '/^song$/p' a.txt #只匹配"song"并打印命令
    
  • 常用命令

命令 功能
p 打印模式空间的内容
d 删除指定的行
i 插入, 在指定行前面添加一行或者多行
s///gi 替换字符

5.应用示例

  • sed '2p' a.txt
定位第二行并打印
运行的效果是 "默认输出" + "规则 p 输出" 

  • 加入 "-n" 选项来阻止默认输出
可能你只想显示你定位的那行运行命令的结果
这是你就可以用到 "-n" 选项了

  • sed '2,5p' a.txt
定位 2~5 行并打印

  • sed "3d;5d;7d" a.txt
定位 3, 5 ,7行并删除
注意:每一个命令需要用 ";" 隔开

  • 加入 "-i" 选项让修改内容写入文件
以上操作没有加入 "-i" 选项, 其实并没有写入到文件里面
只是将处理结果输出到屏幕上了 (适合调试的时候)
想将命令结果写入文件需要用到 "-i" 选项

  • sed -i '/^song/s/song/xing/g' a.txt
匹配以 "song" 开头的行, 然后把 "song" 替换成 "xing"
"-i" 将结果写入文件

  • 加入 "i" 选项不区分大小写替换
sed  -i  's/^song/xing/gi'  a.txt
在 "g" 的后面加了 "i"

  • ifconfig ens32 | sed 's/ens32/shawn/g'
将 'ens32' 网卡信息放入管道
然后 "sed" 从管道中拿出结果进行下一步操作(这里事替换掉网卡名字)

  • 取反操作 "!"
sed -n '1,3!p' a.txt    #取除了1~3的行

二.文件处理之awk

1.AWK

  • 主要擅长处理有规律的文本, 主要用于一些格式化处理
  • awk不仅仅是 linux系统中的一个命令,而且是一种编程语言,可以用来处理数据和生成报告(excel)
  • 处理的数据可以是一个或多个文件,可以是来自标准输入,也可以通过管道获取标准输入
  • awk可以在命令行上直接编辑命令进行操作,也可以编写成awk程序来进行更为复杂的运用。

2.用法

  • 语法结构

awk  [选项]  '[规则]'  [文件路径]
awk  [选项]  '[定位{命令}]'  [文件路径]
  • awk选项

-F[指定分隔符]
-F:      #以冒号分隔
-F" "    #以空格分隔
-F       #没写默认以空格分隔
  • 规则 (定位 + 命令)

    • 行号定位
    ⛅"NR"代表行
    ⛅"NF"代表最后一段的段号
    ⛅"$1"代表分隔的第一段,2,3...类似
    ⛅"$0"代表着整行(所有段)
    awk -F: 'NR == 3{print $1,$3}' b.txt   #以":"分隔每行,并选择打印第三行的1和3段
    awk -F: 'NR >= 3 && NR <= 8{print $1,$3}' b.txt  #大于3并且小于8的行的1和3段
    awk -F: 'NR <= 3 || NR >= 8{print $1,$3}' b.txt  #小于3或者大于8的行的1和3段
    awk -F: 'NR == 3 || NR == 8{print $1,$3}' b.txt  #第 3 行和第 8 行的1和3 段
    
    • 正则定位
    "$0"代表着整行(所有段)
    awk -F: '/^root/{print $0}' b.txt     #匹配以root开头的行,然后打印整行
    awk -F: '/bash$/{print $1,$2}' b.txt  #匹配以bash结尾的行,然后打印1,2duan
    
  • 命令

$0       #输出整条记录
$NF      #输出最后一个字段
$(NF-1)  #倒数第二个
.....
...
..类推

3.应用示例

  • awk -F: 'NR == 3{print $1,$5}' b.txt
以 ":" 做分隔符匹配文件的第 3 行, 然后打印 1 和 5 段

  • awk -F: 'NR >= 3 && NR <= 8{print $0}' b.txt
匹配 3 到 8 行并打印整行

  • awk -F: 'NR == 1 || NR == 3{print $NF}' b.txt
匹配 1 和 3 行,并打印最后一段

  • awk -F: '/^root/{print $0}' b.txt
匹配以"root"开头的整段

  • awk -F: '/bash$/{print $(NF-2)}' b.txt
匹配以 "bash" 结尾的行,打印倒数第 3 段

三.文件处理之grep

1.grep作用

  • 过滤文本内容

2.用法

  • 语法

grep [选项] ['过滤规则'] [文件]
  • 常用选项

选项 功能
-n 显示行号
-i 忽略大小写
-l 过滤的文件只要有匹配字符就会返回文件名
-r 目录下带有关键字的文件
  • 常用规则

符号 描述
^ 匹配以某个字符开头的行
$ 匹配以某个字符结尾的行

3.应用示例

  • grep -n 'song' a.txt
在"a.txt"中搜索"song",并且会显示行号

  • grep -in '^song' a.txtgre
不区分大小写查找以"song"为开头的行

  • grep -r 'song' /root
显示目录下带有关键字的文件
一般与"-l"连用

  • grep -rl 'song' /root
返回"root"目录下含有"song"的文件名

4.grep通过管道过滤进程信息

  • 在一个终端上打开一个vim进程

  • 通过 ps aux | grep '[v]im' 过滤 "vim" 进程

  • 通过 kill -9 24762(进程号杀死它)


5.Windows下杀进程

  • ctrl + alt + delete 调用任务管理器, 右击任务终止
  • 以管理员身份进入 cmd 解释器
  • tasklist 显示当前进程, PID是进程号

  • 使用 tasklist | findstr "WeChat.exe" 通过查找进程名来找到 PID
  • 使用 taskkill /F /PID 9900 通过PID号来终止进程

原文地址:https://www.cnblogs.com/songhaixing/p/13866686.html