运维中告警信息多怎么优化和改善

##1. 告警事件数量
如果团队中的事件数量呈现上升趋势，那么很有可能是哪里出了问题：要么是基础设施有故障，要么是监控工具配置错误需要调整。
随着公司的发展，组织结构会调整，同时业务产品也会不断升级，配套监控也会同步上线，告警事件数量会急剧增加。「我们浪费了大量时间来关闭冗余报警。」－－相信很多同学都会有类似的体会。告警事件数量是可控的：
告警数量可统计，如这周告警数量是多少，与新发布的产品系统有没有关系，发生哪些问题？
告警数量是可操作的，意味着每一个告警都是有意义并且是需要处理和操作的，如果仅仅是瞅一眼的数据，请不要通过告警方式。例如100＋机器时，每台机器的「CPU 使用率高」告警是没有啥用的，你知道机器 CPU 使用率高后，你能做什么操作呢？你可能直接忽略掉，当数量大到你把需要处理的告警也忽略掉时，告警就失去了意义。类似指标完全可以通过周报／日报进行数据的性能分析，而不是告警。
所以楼上的告警多，是需要优化的，不然基本上是不看的，和没有告警一样
##2.平均解决时间
解决时间是衡量业务准备的最佳标准。当事件发生时，需要多长时间才能解决？宕机不仅会影响你的收入，还会伤害客户用户体验和忠诚度，所以确保团队对所有事件可以快速响应极为关键。牛叉如BAT、AWS、google每年都发生多次严重故障（，但都能较快（相对严重程度来说）解决掉。全球500强企业平均每周出现严重故障时间长达1.6小时，平均每小时折合损失$96,000。当然，跟踪解决时间固然重要，但对其进行规范往往很难，根据环境的复杂性、团队和基础设施的责任制、行业及其他因素，有较大差异。但是，规范化的操作手册、自动化的基础设施管理、可靠的告警升级策略都有助于减少事件，和提升效率。优秀的运维人员需要减少事件数量，并及时解决，所以平均解决事件需要和上面告警数量一样，需要记录和统计分析，避免出现告警疲劳

3. 平均响应时间

如果说平均解决时间是结果，那么平均响应时间就是重要的过程指标，这一点往往被大多团队忽略掉。可以理解为告警越快发现，越快有人响应，就能够越快的解决。提升响应时间的核心就是找对人、找到人。说起来简单，实际上找对人有些工作，一般是从职责责任制、协调机制、工作进程透明、工作量和时间可衡量等几点进行，后面针对「有序分派」再补充一篇。
除了以上机制，还有一点，就是需要记录谁什么时候确认响应告警，并做了哪些处理，能够持续跟踪，以及统计分析。
响应时间非常重要，因为它能帮助你了解哪些团队和个人处于随叫随到的状态。快速响应时间是一个战备文化的代表，你会发现具备快响应观念和工具的团队往往可以更快地修复事件。如果使用像事件管理系统，[升级超时]有助于推进响应目标。例如，如果你希望所有事件都应该在5分钟内回复，可以将超时设置为5分钟，从而确保下一个接收人会收到提醒。再根据团队的整体表现，来决定是否需要调整目标，然后再跟踪升级事件的数量。

4. 升级

对于大多数使用事件管理工具的组织而言，告警升级是一种异常现象，该迹象表明首次应该响应的时候，无法及时应对事件，或许相关工具和人员技能失效。升级策略是事件管理的必须，各个团队应努力推动升级，实现升级事件数量的下降。
优秀的运维团队需要建立起有效的一线、二线、甚至三线响应机制，告警及时通知到一线，如果一线没有及时处理，可以自动升级至二线运维，保障每一个重要事件能够得到及时响应和处理。有些情况下，升级是标准作业实践的一部分。例如，你可能有一个 NOC，一线支持团队或者自动修复工具，可根据内容来升级或分诊输入事件。这种情况下，一线更多像一个路由转发器，可以通过人工＋工具自动化方式实现。
示例分析
这是某个团队一个月的告警数据剖析：
告警数量在11-18前相对稳健，平均在3-5个告警。第3周告警突飞猛进，原因是新的业务上线，引发突增。经过周回顾，优化监控策略，在第4周经过初步优化，告警数量有所降低，运维团队工作初见成效，还需要继续优化。
告警响应时间基本上都能够比较好的响应，基本在5分钟内响应。说明整个团队的响应及时率是不错的。同时也看到在第3、4周六的时候，明显的响应时间延迟较大，说明一个问题，周末的支撑工作有提升空间。
恢复时间基本保持在20分钟左右，说明恢复比较及时，但是也有可能存在事件无需关注，自动恢复。后者需要针对事件的类型、根源进一步分析，后续文章再剖析。
升级，目前该团队基本上是5分钟升级，所以会看到在大部分问题能在5分钟内响应完成。

5. 总结

致力减少告警数量、及时响应、如果不能及时响应，能够升级处理，最终提升解决时间，4个核心关键指标是运维支撑工作非常关键的指标，运维是结合管理流程、工具、人员三方面的综合化工作。