使用ksar解析sar监控日志

sar 是属于sysstat包中的一个工具

安装sysstat包后,默认创建一个/etc/cron.d/sysstat文件,其默认内容为:

# run system activity accounting tool every 10 minutes
*/10 * * * * root /usr/lib/sa/sa1 1 1
# generate a daily summary of process accounting at 23:53
53 23 * * * root /usr/lib/sa/sa2 -A

这里用到了两个命令/usr/lib/sa/sa1 /usr/lib/sa/sa2

sa1:是调用sadc(二进制文件),将数据收集到二进制日志文件的一个Shell脚本。sa1命令还确保每天使用不同的文件。每隔十分钟运行一次该命令,最好不要改这个值,这是对一般系统折中的值。二进制日志文件存放在/var/log/sa/目录下,命名为sa${DATE}。

sa2:是将当日二进制日志文件中所有的数据转储到文本文件(sar)的另一个Shell脚本,然后它将清除七天之前的所有日志文件。参数-A指定了从二进制文件中提取哪些数据转储到文本文件中。转储的文件存放在/var/log/sa/目录下,命名为sar${DATE}。

这两个命令要配合着使用。

查看一下/usr/lib/sa/sa1脚本,里面执行这样一句命令:

/usr/lib/sa/sadc -F -L 1 1 -

-F:强制指定一个储存文件,如果文件已存在,就将其转换成sa的二进制文件形式。
-L:给sa文件加互斥锁,不能让两个sadc进程同时写一个sa文件。

跟据sa1脚本中的命令,我们也可以手动的创建sa二进制文件,使用/usr/lib/sa/sadc命令,

# /usr/lib/sa/sadc 1 10 /tmp/jaylin_sa

上述命令的作用是:每隔1s写一条记录,写10条,存放到二进制文件/tmp/jaylin_sa中。

查看一下/usr/lib/sa/sa2脚本,里面执行这样一句命令:

/usr/bin/sar -A -f /var/log/sa/sa${DATE} > /var/log/sa/sar${DATE}

-A:列出所有存储在/var/log/sa/sa${DATE}里的统计信息。
-f:指定将要转储的sa文件,默认的参数值为/var/log/sa/sa${DATE}。

根据sa2脚本中的命令,我们也可以手动将sa文件(二进制)转储到sar文件(ASCII文本)中,使用/usr/bin/sar命令,

# /usr/bin/sar -A -f /tmp/jaylin_sa> /tmp/jaylin_sar

我们可以通过cat等命令查看sar文件的内容。但是我们也可以通过sar命令读取sa的二进制文件。

# sar
03:00:01 PM     CPU     %user     %nice   %system   %iowait    %steal    %idle
03:10:01 PM       all      1.02      0.00      2.33      0.39      0.00     96.25
03:20:01 PM       all      1.85      0.00      3.29      0.32      0.00     94.54
03:30:02 PM       all      1.63      0.06      3.81      2.05      0.00     92.45
03:40:02 PM       all      9.31      0.00      8.10      3.39      0.00     79.20
03:50:01 PM       all      8.64      0.00      7.73      2.27      0.00     81.36
04:00:01 PM       all      0.84      0.00      2.12      1.81      0.00     95.23
Average:          all      3.88      0.01      4.56      1.71      0.00     89.84

其中:

%user:CPU花费在用户进程(如应用程序、Shell脚本或该用户进行的交互)上的时间的百分比。
%nice:CPU用来执行有用户级别优先级别的任务的时间的百分比。
%system:CPU用来执行核心任务的时间的百分比。
%iowait:CPU等待块设备输入或输出的时间的百分比。
%steal:CPU等待管理程序(hypervisor)处理其他任务的时间的百分比。
%idle:CPU未进行任何有用操作的时间的百分比。

最后一行是所有数据的平均值。然而,因为大多数系统都会在忙时间段后经历空闲时间段,所以平均值并不能反映完整的情况。

其他度量参数:

-b:显示了缓冲区信息和使用缓冲区与必须写磁盘的比率。
-c:显示了系统调用分解为一些常用的调用,如fork()、exec()、read()和write()。高进程 创建会导致较差的性能,并且这是可能需要将一些应用程序转移到其他计算机的信号。
-p 和 -w:显示了分页(交换)活动。高分页操作是内存缺乏的信号。特别地,-w 选项 显示了进程切换的次数:高的数值表示计算机上运行的内容过多,该计算机在切换任务 上花费了比实际工作更多的时间。
-q:显示了运行队列的大小,它与当时的平均负载相同。
-r:显示了一段时间的可用内存和交换空间。

它们显示每一列的含义请查看sar的man page。

我们也可以查看指定的某一时间段内的记录

-f:指定要读取的sa文件。
-s:开始的时间。注意,-s不是包含性的,所以必须从所选择的开始时间减去十分钟。
-e:结束的时间。

例如:

# # sar -f /var/log/sa/sa12 -s 14:50:00 -e 15:30:00
03:00:01 PM     CPU     %user     %nice   %system   %iowait    %steal     %idle
03:10:01 PM       all      1.02      0.00      2.33      0.39      0.00     96.25
03:20:01 PM       all      1.85      0.00      3.29      0.32      0.00     94.54
Average:          all      1.44      0.00      2.81      0.36      0.00     95.40

上述命令查看本月12日,15:00—15:30之间的记录。

下面介绍一个第三方工具Ksar
ksar这个工具可以将sar文件装换成图形,便于查看内存等数据的变化情况。
ksar这款软件在2009年以后已经不在更新, 由于需要解析阿里云产生的监控数据,以便更好的展示, 我下载安装ksar

以下记录操作过程

  1. 下载5.0.6的zip文件
  2. 解压zip文件
  3. java -jar kSar.jar 运行这个程序

注意,如果是手动将sa文件转储到sar文件中,执行sar命令时要加LANG=C,即:

# LANG=C /usr/bin/sar -A -f /tmp/jaylin_sa> /tmp/jaylin_sar

不加LANG=C,sar文件显示的时间为12小时制;加LANG=C之后,sar文件显示的时间为24小时制。Ksar工具只能识别24小时制的sar文件,所以切记执行转储时要加此环境变量。

这里遇到的问题
阿里云上的监控数据是使用sar获取的 以纯文本的形式记录, 但是阿里云的日志上时间是以12小时制的

12:00:01 AM     CPU      %usr     %nice      %sys   %iowait    %steal      %irq     %soft    %guest     %idle
12:10:01 AM     all     28.75      0.00      0.25      0.02      0.00      0.00      0.05      0.00     70.93
12:10:01 AM       0     42.95      0.00      0.51      0.04      0.00      0.00      0.39      0.00     56.12
12:10:01 AM       1     35.92      0.00      0.35      0.01      0.00      0.00      0.00      0.00     63.72
12:10:01 AM       2     32.93      0.00      0.30      0.02      0.00      0.00      0.00      0.00     66.75
12:10:01 AM       3     30.23      0.00      0.23      0.03      0.00      0.00      0.00      0.00     69.51
12:10:01 AM       4     21.33      0.00      0.19      0.02      0.00      0.00      0.00      0.00     78.47
12:10:01 AM       5     20.28      0.00      0.15      0.01      0.00      0.00      0.00      0.00     79.57
12:10:01 AM       6     20.30      0.00      0.15      0.01      0.00      0.00      0.00      0.00     79.54
12:10:01 AM       7     26.14      0.00      0.11      0.01      0.00      0.00      0.00      0.00     73.74

而ksar无法识别这一格式, 会报这个错误

java.lang.NumberFormatException: For input string: "all"
        at sun.misc.FloatingDecimal.readJavaFormatString(Unknown Source)
        at java.lang.Float.valueOf(Unknown Source)
        at java.lang.Float.<init>(Unknown Source)
        at net.atomique.ksar.Linux.Parser.parse(Parser.java:624)
        at net.atomique.ksar.kSar.parse(kSar.java:750)
        at net.atomique.ksar.FileRead.run(FileRead.java:62)

那就转换成24小时制的吧, 第一反应是vim

本来简单的以为这个修改在vim里面应该很容易完成, 不想vim太高冷, 还是驾驭不住. 用vim试了一个多小时无果

只能用shell来处理了

#!/bin/bash                                                                                                                                                                                                                                 
#
output="web1"
inpath="/tmp/sar/web1_sa"

change() {
    while read line; do
        temp1=`echo "$line" |awk '{print $1}'`
        temp2=`echo "$line" |awk '{print $2}'`
        if [ "$temp2" == "AM" ]; then
            newtime=`date -d "$temp1 AM" +%T`
            echo "`echo "$line" |sed "s/[0-9][0-9]:[0-9][0-9]:[0-9][0-9] AM/$(echo $newtime)/"`" >> $1_$output
        elif [ "$temp2" == "PM" ]; then
            newtime=`date -d "$temp1 PM" +%T`
            echo "`echo "$line" |sed "s/[0-9][0-9]:[0-9][0-9]:[0-9][0-9] PM/$(echo $newtime)/"`" >> $1_$output
        else
            echo "$line" >> $1_$output
        fi  
    done < $1
    echo >> $1_$output
}

for i in `ls $inpath/sar*`
do
    change $i &
done

如果各位有好的vim解决方案, 还请不吝赐教

由于这里采用markdown的编辑器, 而markdown语法还未到信手拈来的地步

最后, 附上markdown语法简图

markdown

原文地址:https://www.cnblogs.com/mikeguan/p/6371278.html