ELK 收集 Tomcat日志以及修改Tomcat日志格式

Tomcat日志

想要收集tomcat 日志首先我们要对tomcat的日志有足够的了解

tomca日志分类

简单的说tomcat logs下日志分为五类：

catalina 、 localhost 、 manager 、 admin 、 host-manager

tomcat 其实还有记录访问日志（localhost_access_log.txt）

localhost.log　　程序异常没有被捕获的时候抛出的地方【常用】

catalina.log　　程序的输出、tomcat的日志输出【常用】

localhost_access_log.txt　　tomcat访问日志记录【常用】

manager.log　　 webapps/manager项目生成的日志文件

host-manager.log　　 webapps/host-manager项目生成的日志文件

tomcat日志还分有级别

SEVERE (highest value) >

WARNING >

INFO >

CONFIG >

FINE >

FINER >

FINEST (lowest value)

附

日志级别的修改：

修改/conf/logging.properties文件

示例：

①设置 catalina 日志的级别为： FINE

1catalina.org.apache.juli.FileHandler.level = FINE

②禁用 catalina 日志的输出：

1catalina.org.apache.juli.FileHandler.level = OFF

③输出 catalina 所有的日志消息：

1catalina.org.apache.juli.FileHandler.level = ALL

按照我们的需求，我们可以将tomcat日志分为两大类

1、catalina.log 日志记录了tomcat运行状态信息以及异常告警信息等

2、localhost_access.Y-M-D.log:访问日志主要是记录访问的时间，IP以及访问的资料等相关信息

我们要想更好的将tomcat两种日志准确的定位抓取，需要自定义tomcat日志格式

首先是locathost_access.Y-M-D.log访问日志，将日志输出定义为json格式，方便后续kibana展示

 <Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
               prefix="localhost_access_log." suffix=".txt"
               pattern="%h %l %u %t "%r" %s %b" />

Note: The pattern used is equivalent to using pattern="common" -->
<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
               prefix="localhost_access" suffix=".log"
 
               pattern="{"client":"%h", "client user":"%l", "authenticated":"%u", "access time":"%t", "method":"%r", "status":"%s", "send bytes":"%b", "Query?string":"%q",  "partner":"%{Referer}i", "Agent version":"%{User-Agent}i"}"/>

v2

    <Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
               prefix="localhost_access" suffix=".log"
 
               pattern="{"client":"%h", "client user":"%l", "authenticated":"%u", "access time":"%t", "method":"%r", "status":"%s", "Request time":"%T", "send bytes":"%b", "partner":"%{Referer}i", "Agent version":"%{User-Agent}i"}"/>

参数详情：

directory：日志文件存放的位置

prefix：日志文件名称前缀

suffix：日志名称后缀

pattern：是一个json解析字段的参数

"client":"%h"其中%h表示请求的主机名称，这里指的是请求端的IP

"client user":"%l"其中%l记录的是刘拉着进行身份验证时提供的名称

"authenticated":"%u" 其中%u代表获得验证的访问请求者，否则就是"-"

"access time":"%t" 其中%t代表请求的时间

"method":"%r" 其中%r代表请求的方法和URL

"status":"%s" 其中%s代表HTTP的响应状态码

"Request time":"%T", 其中%T处理请求的时间，以秒为单位

"send bytes":"%b" 其中%b代表发送请求的字节数，但不包括请求http头部信息

"Query?string":"%q" 其中%q指的是查询字符串的意思

v2 日志内容展示

{"client":"221.226.190.138", "client user":"-", "authenticated":"-", "access time":"[03/Dec/2019:10:35:15 +0800]", "method":"GET /docs/appdev/ HTTP/1.1", "status":"404", "Request time":"0.005", "send bytes":"1075", "Query?string":"",  "partner":"http://122.51.9.145:8080/", "Agent version":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.70 Safari/537.36"}

％a-远程IP地址
％A-本地IP地址
％b-发送的字节，不包括HTTP标头，如果为零则为'-'
％B-发送的字节，不包括HTTP标头
％h-远程主机名（如果连接器的enableLookups为false，则为IP地址）
％H-请求协议
％l-来自identd的远程逻辑用户名（总是返回“-”）
％m-请求方法（GET，POST等）
％p-接收此请求的本地端口。另请参见下面的％{xxx} p。
％q-查询字符串（如果存在，则以“？”开头）
％r-请求的第一行（方法和请求URI）
％s-响应的HTTP状态代码
％S-用户会话ID
％t-日期和时间，以通用日志格式
％u-已验证（如果有）的远程用户，否则为'-'
％U-请求的URL路径
％v-本地服务器名称
％D-处理请求所花费的时间（以毫秒为单位）
％T-处理请求所花费的时间，以秒为单位
％F-提交响应所花费的时间（以毫秒为单位）
％I-当前请求线程名称（以后可以与堆栈跟踪进行比较）