Netflix Ribbon 负载均衡规则

Ribbon和Eureka整合后服务消费方可以直接调用服务而不用再关心提供服务的地址以及提供服务的端口号。

Ribbon其实就是一个软负载均衡的客户端软件，它可以和其它所需请求的客户端结合使用，和Eureka结合只是其中的一个实例。

一、Ribbon核心组件IRule

Ribbon在工作时分为两步：

先选择 EurekaServer，它优先选择在同一个区域内负载较少的Server；
再根据用户指定的策略，在从Server取到的服务注册列表中选择一个地址；

其中Ribbon提供了多种策略，比如轮询、随机、根据响应时间加权。

RoundRobinRule：轮询；
RandomRule：随机；
AvailabilityFilteringRule：会先过滤掉由于多次访问故障而处于断路器状态的服务，还有并发的连接数量超过阈值的服务，然后对剩余的服务列表按照轮询策略进行访问；
WeightedResponseTimeRule：根据平均响应时间计算所有服务的权重，响应时间越快的服务权重越大被选中的概率越大。刚启动时如果统计信息不足，则使用RoundRobinRule（轮询）策略，等统计信息足够，会切换到WeightedResponseTimeRule；
RetryRule：先按照RoundRobinRule（轮询）策略获取服务，如果获取服务失败则在指定时间内进行重试，获取可用的服务；
BestAvailableRule：会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务，然后选择一个并发量最小的服务；
ZoneAvoidanceRule：复合判断Server所在区域的性能和Server的可用性选择服务器；

二、配置负载均衡规则

1. 全局策略配置

默认的负载均衡算法是轮训算法。我们可以重新指定。

@Configuration
public class RibbonRandomLoadBalancingConfiguration {

    //配置负载均衡的策略为随机，默认算法为轮询算法
    @Bean
    public IRule lbRule() {
        //return new RoundRobinRule();
        return new RandomRule();
    }
}

2. 基于注解的针对单个服务的 Ribbon 负载均衡策略

注：方文档特别指出：自定义的负载均衡配置类不能放在 @componentScan 所扫描的当前包下及其子包下（即在@SpringBootApplication注解的主类以外），否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享，也就是说我们达不到特殊化定制的目的了（也可以使用自定义注解排除）。

/**
 * @Description：Ribbon 随机负载均衡策略配置类
 *                  那个服务引用就作用在那个服务上面
 *                  在启动类上方使用 @RibbonClient 引用
 */
@Configuration
/** 自定义的注解, 用来标记使用的注解，方便排除或者引用 **/
@AvoidScan
public class RibbonRandomLoadBalancingConfiguration {
    
    @Bean
    public IRule ribbonRule() {
        return new RandomRule();
    }
}

在主启动类上方做针对单个服务的负载均衡策略：

/** 配置针对单个服务的 Ribbon 负载均衡策略 **/

@RibbonClient(name="appservice-name", configuration= RibbonRandomLoadBalancingConfiguration .class)
//或
//@RibbonClients(value = {
//        @RibbonClient(name="appservice-name", configuration= XXXXXXX.class),
//        @RibbonClient(name="app-name", configuration= RibbonRandomLoadBalancingConfiguration .class)})

/** 此处配置根据标识 @AvoidScan 过滤掉需要单独配置的 Ribbon 负载均衡策略，不然就会作用于全局，启动就会报错 */
@ComponentScan(
        excludeFilters = @ComponentScan.Filter(
                type = FilterType.ANNOTATION, value = AvoidScan.class
        )
)

3. 基于配置文件

个人不太喜欢上方的那种注解方式针对单个服务的负载均衡策略（即使用@RibbonClient或@RibbonClients注解），下面是配置文件的方式：

appservice-name.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule

三、自定义负载均衡规则

要求自定义的算法：依旧是轮询策略，但是每个服务器被调用5次后轮到下一个服务，即以前是每个服务被调用1次，现在是每个被调用5次。

public class CustomeRule extends AbstractLoadBalancerRule {
    /*
     * total = 0 // 当total==5以后，我们指针才能往下走， index = 0 // 当前对外提供服务的服务器地址，
     * total需要重新置为零，但是已经达到过一个5次，我们的index = 1
     */

    private int total = 0; // 总共被调用的次数，目前要求每台被调用5次
    private int currentIndex = 0; // 当前提供服务的机器号

    public Server choose(ILoadBalancer lb, Object key) {
        if (lb == null) {
            return null;
        }
        Server server = null;

        while (server == null) {
            if (Thread.interrupted()) {
                return null;
            }
            List<Server> upList = lb.getReachableServers(); // 当前存活的服务
            List<Server> allList = lb.getAllServers(); // 获取全部的服务

            int serverCount = allList.size();
            if (serverCount == 0) {
                return null;
            }

            // int index = rand.nextInt(serverCount);
            // server = upList.get(index);
            if (total < 5) {
                server = upList.get(currentIndex);
                total++;
            } else {
                total = 0;
                currentIndex++;
                if (currentIndex >= upList.size()) {
                    currentIndex = 0;
                }
            }

            if (server == null) {
                Thread.yield();
                continue;
            }

            if (server.isAlive()) {
                return (server);
            }

            // Shouldn't actually happen.. but must be transient or a bug.
            server = null;
            Thread.yield();
        }
        return server;
    }

    @Override
    public Server choose(Object key) {
        return choose(getLoadBalancer(), key);
    }

    @Override
    public void initWithNiwsConfig(IClientConfig clientConfig) {
    }
}

View Code

在配置类上配置：

//配置负载均衡的策略为随机，默认算法为轮询算法
@Bean
public IRule lbRule() {
    return new CustomeRule(); //自定义负载均衡规则
}

在application.properties中配置单个服务的负载均衡：

# 设置负载均衡策略 appservice-name为调用的服务的名称
appservice-name.ribbon.NFLoadBalancerRuleClassName=com.linhw.example.config.CustomeRule