Prometheus监控大数据

https://prometheus.io/
https://github.com/promethues
1、promethues概述
promethues是一个开源监控系统，基于时间顺序序列记录，性能好存储成本低，上百万条时间序列30秒间隔，保留60天仅需200G（官方数据）。
1、promethues 特点

    1）支持多维数据模型，由度量名称和键值对标识的时间序列数据（没有行/列概念）
    2）内置时间序列数据库：DSDB
    3）promQL：一种标准灵活的查询语言，可以利用多维数据完成复杂查询
    4）同时支持pushgateway组件收集数据
    5）通过服务发现或静态配置发现目标
    6）多种图形模式及表盘支持
    7）支持做为数据源接入grafana

2、自动发现
1）直接基于kubernetes元数据发现
2）写入规则到file_sd基于文件进行发现
3、promethues架构图

4、普罗米修斯安装部署
1）修改hostname（hosts解析）
2) 修改时间服务器
3）解压安装包

[root@bigdata-test-65-22 ~]# tar xf prometheus-2.12.0.linux-amd64.tar.gz -C /opt/

4）启动普罗米修斯

[root@bigdata-test-65-22 prometheus-2.12.0.linux-amd64]# ./prometheus --config.file="/opt/prometheus-2.12.0.linux-amd64/prometheus.yml" &
[root@bigdata-test-65-21 prometheus-2.12.0.linux-amd64]# netstat -tnlp|grep 9090
tcp6       0      0 :::9090                 :::*                    LISTEN      17691/./prometheus 

5、普罗米修斯客户端安装
1)node-export安装

[root@bigdata-test-65-22 ~]# tar xf node_exporter-0.18.1.linux-amd64.tar.gz -C /opt/
[root@bigdata-test-65-22 ~]# cd /opt/node_exporter-0.18.1.linux-amd64/
[root@bigdata-test-65-22 node_exporter-0.18.1.linux-amd64]# nohup ./node_exporter &
[root@bigdata-test-65-22 node_exporter-0.18.1.linux-amd64]# netstat -tnlp|grep 9100
tcp6       0      0 :::9100                 :::*                    LISTEN      26556/./node_export 

6、让普罗米修斯获取node监控信息

7、grafana安装
下载地址：
[root@bigdata-test-65-21 ~]# rpm -vih grafana-6.5.2-1.x86_64.rpm
[root@bigdata-test-65-21 ~]# systemctl start grafana-server

4、监控种类
业务监控：QPS，BAU日活，访问状态，业务接口（登录，注册，聊天，上传，留言，短信，搜索）产品转化率，充值额度，用户投诉等等。
系统监控：基本选项，CPU，内存，硬盘，IO，TCP连接，流量
网络监控：网络状态，交换机，路由器，防火墙，VPN，专线，丢包，延迟等等
日志监控：监控重头戏，ELK
程序监控：采集程序日志，跟开发沟通，嵌入各种接口，直接获取数据或者特定的日志格式。