hystrix原理

一、hystrix 产生背景

微服务是解决复杂服务的一个方案，在功能不变的情况下，对一个复杂的单体服务分解为多个可管理的分支。每个服务作为轻量的子服务，通过RPC实现服务间的关联，将服务简单化。每个服务根据自己的需要选择技术栈，互不影响，方便开发、维护。例如S划分为a,b,c。微服务的好处是有效的拆分应用，实现敏捷开发和部署。
微服务一系列优势下，也给微服务的管理和稳定性带来挑战，比如一个服务依赖30个微服务，每个微服务的可用性是99.999%，在不加任何管理的情况下，该聚合服务的可用性将是99.999%的30次方=99.97%，系统的可用性直接降了两个数量级达到三个九。
且由于依赖的传递性，很容易产生雪崩效应。如下图所示：

 
Paste_Image.png
 
Paste_Image.png
 
Paste_Image.png

一个应用中，任意一个点的不可用或者响应延时都有可能造成服务不可用
更可怕的是，被hang住的请求会很快耗尽系统的资源，当该类请求越来越多，占用的计算机资源越来越多的时候，会导致系统瓶颈出现，造成其他的请求同样不可用，最终导致业务系统崩溃，又称：雪崩效应
造成雪崩原因可以归结为以下三个：

  • 服务提供者不可用（硬件故障，程序Bug，缓存击穿，用户大量请求）
  • 重试加大流量（用户重试，代码逻辑重试）
  • 服务调用者不可用（同步等待造成的资源耗尽）
  • 最终的结果就是一个服务不可用导致一系列服务的不可用，而往往这种后果往往无法预料的。

二、 hystrix实现原理

hystrix语义为“豪猪”，具有自我保护的能力。hystrix的出现即为解决雪崩效应，它通过四个方面的机制来解决这个问题

  • 隔离（线程池隔离和信号量隔离）：限制调用分布式服务的资源使用，某一个调用的服务出现问题不会影响其他服务调用。
  • 优雅的降级机制：超时降级、资源不足时(线程或信号量)降级，降级后可以配合降级接口返回托底数据。
  • 融断：当失败率达到阀值自动触发降级(如因网络故障/超时造成的失败率高)，熔断器触发的快速失败会进行快速恢复。
  • 缓存：提供了请求缓存、请求合并实现。
  • 支持实时监控、报警、控制（修改配置）

2.1 隔离

 
Paste_Image.png

（1）线程池隔离模式：使用一个线程池来存储当前的请求，线程池对请求作处理，设置任务返回处理超时时间，堆积的请求堆积入线程池队列。这种方式需要为每个依赖的服务申请线程池，有一定的资源消耗，好处是可以应对突发流量（流量洪峰来临时，处理不完可将数据存储到线程池队里慢慢处理）
（2）信号量隔离模式：使用一个原子计数器（或信号量）来记录当前有多少个线程在运行，请求来先判断计数器的数值，若超过设置的最大线程个数则丢弃改类型的新请求，若不超过则执行计数操作请求来计数器+1，请求返回计数器-1。这种方式是严格的控制线程且立即返回模式，无法应对突发流量（流量洪峰来临时，处理的线程超过数量，其他的请求会直接返回，不继续去请求依赖的服务）

区别（两种隔离方式只能选其一）：

 线程池隔离信号量隔离
线程 与调用线程非相同线程 与调用线程相同（jetty线程）
开销 排队、调度、上下文开销等 无线程切换，开销低
异步 支持 不支持
并发支持 支持（最大线程池大小） 支持（最大信号量上限）

2.2 融断

正常状态下，电路处于关闭状态(Closed)，如果调用持续出错或者超时，电路被打开进入熔断状态(Open)，后续一段时间内的所有调用都会被拒绝(Fail Fast)，一段时间以后，保护器会尝试进入半熔断状态(Half-Open)，允许少量请求进来尝试，如果调用仍然失败，则回到熔断状态，如果调用成功，则回到电路闭合状态;

 
Paste_Image.png

HystrixCircuitBreaker（断路器的具体实现）：

 
Paste_Image.png

详细的工作流程：http://hot66hot.iteye.com/blog/2155036

2.3 降级

可能大家会混淆“融断”和“降级”两个概念。
在股票市场，熔断这个词大家都不陌生，是指当股指波幅达到某个点后，交易所为控制风险采取的暂停交易措施。相应的，服务熔断一般是指软件系统中，由于某些原因使得服务出现了过载现象，为防止造成整个系统故障，从而采用的一种保护措施，所以很多地方把熔断亦称为过载保护。
大家都见过女生旅行吧，大号的旅行箱是必备物，平常走走近处绰绰有余，但一旦出个远门，再大的箱子都白搭了，怎么办呢？常见的情景就是把物品拿出来分分堆，比了又比，最后一些非必需品的就忍痛放下了，等到下次箱子够用了，再带上用一用。而服务降级，就是这么回事，整体资源快不够了，忍痛将某些服务先关掉，待渡过难关，再开启回来。
二者的目标是一致的，目的都是保证上游服务的稳定性。但其关注的重点并不一样，融断对下层依赖的服务并不级（或者说孰轻孰重），一旦产生故障就断掉；而降级需要对下层依赖的业务分级，把产生故障的丢了，换一个轻量级的方案，是一种退而求其次的方法。
根据业务场景的不同，一般采用以下两种模式：
第一种（最常用）如果服务失败，则我们通过fallback进行降级，返回静态值。

 
Paste_Image.png

第二种采用服务级联的模式，如果第一个服务失败，则调用备用服务，例如失败重试或者访问缓存失败再去取数据库。服务级联的目的则是尽最大努力保证返回数据的成功性，但如果考虑不充分，则有可能导致级联的服务崩溃（比如，缓存失败了，把全部流量打到数据库，瞬间导致数据库挂掉）。因此级联模式，也要慎用，增加了管理的难度。

 
Paste_Image.png

2.4 缓存

不建议使用，对问题排查会造成很大的困扰，因此也不在这里讲了

三、hystrix应用

hystrix的运行流程如下所示：

 
Paste_Image.png
  • 两个核心代理HystrixCommand,HystrixObservableCommand，任何依赖的服务只需要继承这两个类就可以了。其中HystrixObservableCommand使用观察者模式（不在此介绍范围之内，了解请移步RxJava）
  • HystrixCommand 可以采用同步调用和异步调用，异步返回Future对象（还未直接支持CompletebleFuture）
    如果开启了缓存，则会根据GroupKey,Commandkey以及cachedKey确定是否存在缓存（不建议使用）
  • 判断断路器是否开启，开启则直接调用getFallback,
  • 判断是否满足信号量隔离或线程池隔离的条件，如果隔离则抛异常
  • 执行run方法
  • metrics包含了一个计数器，用来计算当前服务的状态，无论是成功调用，还是抛异常都会记录数据（接下来再详细讲）
  • 执行降级策略

3.1 代码实现

 1 public class GetInfoFromSinaiCommand extends HystrixCommand<List<PoiInfo>> {
 2     private PoiClient poiClient;
 3     private List<Integer> poiIds;
 4     private static final List<String> FIELDS = ImmutableList.of("id", "cate", "subcate");
 5 
 6     public GetInfoFromSinaiCommand(PoiClient poiClient, List<Integer> poiIds) {
 7         super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("sinai"))
 8                 //command配置
 9                 .andCommandKey(HystrixCommandKey.Factory.asKey("GetInfoFromSinaiCommand"))
10                 .andCommandPropertiesDefaults(HystrixCommandProperties.Setter()
11                         .withExecutionIsolationStrategy(HystrixCommandProperties.ExecutionIsolationStrategy.THREAD))
12                 .andCommandPropertiesDefaults(HystrixCommandProperties.Setter().withRequestCacheEnabled(true))
13 
14                 //融断器配置
15                 .andCommandPropertiesDefaults(HystrixCommandProperties.Setter().withCircuitBreakerEnabled(true))
16                 .andCommandPropertiesDefaults(HystrixCommandProperties.Setter().withCircuitBreakerRequestVolumeThreshold(20))
17                 .andCommandPropertiesDefaults(HystrixCommandProperties.Setter().withCircuitBreakerSleepWindowInMilliseconds(5000))
18                 .andCommandPropertiesDefaults(HystrixCommandProperties.Setter().withCircuitBreakerErrorThresholdPercentage(50))
19 
20                 //ThreadPool配置
21                 .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("GetInfoFromSinaiCommand"))
22                 .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter().withCoreSize(10))
23                 .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter().withCoreSize(-1))
24 
25         );
26 
27 
28 
29         this.poiClient = poiClient;
30         this.poiIds = poiIds;
31 
32     }
33 
34     @Override
35     public List<PoiInfo> run() throws Exception {
36         if (poiIds.isEmpty()) {
37             return Lists.newArrayList();
38         }
39         List<PoiModel> pioModels = poiClient.listPois(poiIds, FIELDS);
40         return parseResult(pioModels);
41     }
42 
43     @Override
44     protected String getCacheKey() {
45         return String.valueOf(poiIds);
46     }
47 
48     @Override
49     protected List<PoiInfo> getFallback() {
50         return Lists.newArrayList();
51     }
52 
53     private List<PoiInfo> parseResult(List<PoiModel> poiModels) {
54         if (poiModels == null || poiModels.isEmpty()) {
55             return Lists.newArrayList();
56         }
57         List<PoiInfo> res = Lists.newArrayList();
58         for (PoiModel poiModel : poiModels) {
59             PoiInfo poiInfo = new PoiInfo();
60             poiInfo.setPoiId(poiModel.getId());
61 
62             if (poiModel.getCate() != null) {
63                 poiInfo.setCate(poiModel.getCate());
64             }
65             if (poiModel.getSubcate() != null) {
66                 poiInfo.setSubcate(poiModel.getSubcate());
67             }
68             res.add(poiInfo);
69         }
70         return res;
71     }
72 }

3.2 参数说明

|参数类型|参数名|默认值|说明|
|---|---|---|---|---|
|command配置|executionIsolationStrategy|ExecutionIsolationStrategy.THREAD|信号隔离或线程隔离，默认:采用线程隔离,|
|| executionIsolationThreadTimeoutInMillisecond |1s|隔离时间大，即多长时间后进行重试|
|| executionIsolationSemaphoreMaxConcurrentRequests |10|使用信号量隔离时，命令调用最大的并发数,默认:10 |
| |fallbackIsolationSemaphoreMaxConcurrentRequests |10|使用信号量隔离时，命令fallback(降级)调用最大的并发数,默认:10|
|| fallbackEnabled |true|是否开启fallback降级策略|
|| executionIsolationThreadInterruptOnTimeout |true|使用线程隔离时，是否对命令执行超时的线程调用中断（Thread.interrupt()）操作|
|| metricsRollingStatisticalWindowInMilliseconds |10000ms|统计滚动的时间窗口,默认:10s|
|| metricsRollingStatisticalWindowBuckets |10|统计窗口的Buckets的数量,默认:10个
|| metricsRollingPercentileEnabled |true|是否开启监控统计功能,默认:true|
|| requestLogEnabled |true|是否开启请求日志|
|| requestCacheEnabled |true|是否开启请求缓存|
|熔断器配置|circuitBreakerRequestVolumeThreshold|20|主要用在小流量|
|| circuitBreakerSleepWindowInMilliseconds | 5000ms |熔断器默认工作时间,默认:5秒.熔断器中断请求5秒后会进入半打开状态,放部分流量过去重试|
|| circuitBreakerEnabled | true |是否启用熔断器,默认true. 启动 |
|| circuitBreakerErrorThresholdPercentage | 50 |默认:50%。当出错率超过50%后熔断器启动|
|| circuitBreakerForceOpen | false |是否强制开启熔断器阻断所有请求,默认:false,不开启|
|| circuitBreakerForceClosed | false |是否允许熔断器忽略错误,默认false, 不开启|
|线程池配置|HystrixThreadPoolProperties.Setter().withCoreSize(int value)|10|配置线程池大小,默认值10个|
||HystrixThreadPoolProperties.Setter().withMaxQueueSize(int value)|-1|配置线程值等待队列长度|

3.3监控上报

参考文章：

本文的很多图和文字都粘贴自网上文章，没有注明引用请包涵！如有任何问题请留言或者加群，我会及时回复

转载：https://www.jianshu.com/p/e07661b9bae8

【推广】 免费学中医，健康全家人
原文地址：https://www.cnblogs.com/dalianpai/p/11706116.html