springcloud-Ribbon负载均衡(基于客户端)

1 概念描述

1.1 什么是负载均衡?

  • LB，即负载均衡 (LoadBalancer) ，在微服务或分布式集群中经常用的一种应用。
  • 负载均衡简单的说就是将用户的请求平摊的分配到多个服务上，从而达到系统的HA (高用)。
  • 常见的负载均衡软件有 Nginx、Lvs 等等。
  • Dubbo、SpringCloud 中均给我们提供了负载均衡，SpringCloud 的负载均衡算法可以自定义。

1.2 负载均衡简单分类

集中式LB :

  • 即在服务的提供方和消费方之间使用独立的LB设施，如Nginx(反向代理服务器)，由该设施负责把访问请求通过某种策略转发至服务的提供方！

进程式LB : 

  • 将LB逻辑集成到消费方，消费方从服务注册中心获知有哪些地址可用，然后自己再从这些地址中选出一个合适的服务器。
  • Ribbon 就属于进程内LB，它只是一个类库，集成于消费方进程，消费方通过它来获取到服务提供方的地址！

1.3 Ribbon是什么

  • Spring Cloud Ribbon 是基于Netflix Ribbon 实现的一套客户端负载均衡的工具。
  • 简单的说，Ribbon 是 Netflix 发布的开源项目，主要功能是提供客户端的软件负载均衡算法，将 Netflix 的中间层服务连接在一起。Ribbon 的客户端组件提供一系列完整的配置项，如：连接超时、重试等。简单的说，就是在配置文件中列出 LoadBalancer (简称LB：负载均衡) 后面所有的及其，Ribbon 会自动的帮助你基于某种规则 (如简单轮询，随机连接等等) 去连接这些机器。我们也容易使用 Ribbon 实现自定义的负载均衡算法！

1.4 Ribbon能干什么

通过轮询或随机的算法,将若干个请求分配给多个不同的请求处理方

2 集成Ribbon

基于:springcloud-Eureka服务注册中心

修改项目中的springcloud-consumer-dept-80模块

2.1 引入依赖

springcloud-consumer-dept-80 : pom.xml

<!--Ribbon-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-ribbon</artifactId>
    <version>1.4.6.RELEASE</version>
</dependency>
<!--EUREKA-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-eureka</artifactId>
    <version>1.4.6.RELEASE</version>
</dependency>

2.2 修改配置文件

在application.yml文件中修改Eureka的配置

springcloud-consumer-dept-80 : src/main/resources/application.yaml

#Eureka配置
eureka:
  client:
    register-with-eureka: false #不向Eureka中注册自己
    service-url:
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/

2.3 修改主启动类

在主启动类上添加@EnableEurekaClient注解，开启Eureka

springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/DeptConsumer_80.java

//Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号
@SpringBootApplication
@EnableEurekaClient
public class DeptConsumer_80 {
    public static void main(String[] args) {
        SpringApplication.run(DeptConsumer_80.class,args);
    }
}

2.4 修改配置类

在配置类中添加@LoadBalanced注解来配置负载均衡实现RestTemplate

springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/config/ConfigBean.java

@Configuration
public class ConfigBean {//添加了@Configuration注解后这个类就相当于spring中的applicationContext.xml
    //配置负载均衡实现RestTemplate
    @Bean
    @LoadBalanced //Ribbon
    public RestTemplate getRestTemplate(){
        return new RestTemplate();
    }
}

2.5 修改控制层

修改DeptConsumerController.java中的访问地址

//Ribbon. 我们这里的地址,应该是一个变量,通过服务名来访问
//private static final String REST_URL_PREFIX = "http://localhost:8001";
private static final String REST_URL_PREFIX = "http://SPRINGCLOUD-PROVIDER-DEPT";

3 使用Ribbon实现负载均衡

3.1 创建数据库

新建两个数据库 DB02 和 DB03,并在两个数据库下分别编写一个和DB01中相同的dept表

3.2 创建多个服务提供者

在父工程下新建两个普通的maven项目:springcloud-provider-dept-8002和springcloud-provider-dept-8003,这个两个模块和springcloud-provider-dept-8001构成三个服务提供者

springcloud-provider-dept-8002和springcloud-provider-dept-8003这两个模块完全复制springcloud-provider-dept-8001模块,只需修改配置文件和主启动类的部分内容.

配置文件中有三个地方需要修改

springcloud-provider-dept-8002 : src/main/resources/application.yaml

修改端口号

server:
  port: 8002

修改数据库地址

url: jdbc:mysql://localhost:3306/db02?useSSL=false&useUnicode=true&characterEncoding=utf-8

修改配置eureka上的默认描述信息

instance:
  instance-id: springcloud-provider-dept8002 #修改eureka上的默认描述信息!

springcloud-provider-dept-8003 : src/main/resources/application.yaml

修改端口号

server:
  port: 8003

修改数据库地址

url: jdbc:mysql://localhost:3306/db03?useSSL=false&useUnicode=true&characterEncoding=utf-8

修改配置eureka上的默认描述信息

instance:
  instance-id: springcloud-provider-dept8003 #修改eureka上的默认描述信息!

主启动类需要修改名字和SpringApplication.run()的第一个参数

springcloud-provider-dept-8002 : src/main/java/com/lv/springcloud/DeptProvider_8002.java

//启动类
@SpringBootApplication
@EnableEurekaClient// 在服务启动后自动注册到Eureka中
@EnableDiscoveryClient //服务发现
public class DeptProvider_8002 {
    public static void main(String[] args) {
        SpringApplication.run(DeptProvider_8002.class,args);
    }
}

springcloud-provider-dept-8003 : src/main/java/com/lv/springcloud/DeptProvider_8003.java

//启动类
@SpringBootApplication
@EnableEurekaClient// 在服务启动后自动注册到Eureka中
@EnableDiscoveryClient //服务发现
public class DeptProvider_8003 {
    public static void main(String[] args) {
        SpringApplication.run(DeptProvider_8003.class,args);
    }
}

3.3 启动所有服务,进行测试

所有项目运行成功后,访问http://localhost:7001/

可以看到我们的三个服务提供者,都成功注册,此时访问http://localhost:7002/和http://localhost:7003/效果也是一样的,就不放截图了,接下来我们访问http://localhost/consumer/dept/list,来查询数据库的内容

从上图中可以看出,我们查询的是db01数据库的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者1,即8001端口,也就是springcloud-provider-dept-8001模块,接下来我们再继续访问http://localhost/consumer/dept/list

这次显示的是db03中的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者3,即8003端口,也就是springcloud-provider-dept-8003模块,接下来我们再继续访问http://localhost/consumer/dept/list

这次显示的是db03中的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者2,即8002端口,也就是springcloud-provider-dept-8002模块,如果我们继续不停的访问http://localhost/consumer/dept/list,那么就会一直循环这个顺序 01-03-02 这种情况就叫做轮询,轮询算法在SpringCloud中可以自定义.

4 切换或自定义负载均衡策略

4.1 切换负载均衡策略

在springcloud-provider-dept-80模块下的ConfigBean中进行配置，切换使用不同的规则

springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/config/ConfigBean.java

package com.lv.springcloud.config;

import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;

@Configuration
public class ConfigBean {//添加了@Configuration注解后这个类就相当于spring中的applicationContext.xml
    /*
     IRule:
     RoundRobinRule 轮询策略
     RandomRule 随机策略
     AvailabilityFilteringRule ： 会先过滤掉，跳闸，访问故障的服务~，对剩下的进行轮询~
     RetryRule ： 会先按照轮询获取服务~，如果服务获取失败，则会在指定的时间内进行，重试
    */
    @Bean
    public IRule myRule() {
        return new RandomRule();//使用随机策略
        //return new RoundRobinRule();//使用轮询策略
        //return new AvailabilityFilteringRule();
        //return new RetryRule();
    }
    @Bean
    @LoadBalanced //Ribbon
    public RestTemplate getRestTemplate(){
        return new RestTemplate();
    }
}

启动所有项目,多次访问http://localhost/consumer/dept/list,根据每次得出的结果发现已经改用用我们切换的策略,这里就不演示了

4.2 自定义负载均衡策略

首先创建一个myRule包,注意:该包的位置不要和主启动类同级,要和主启动类所在的包同级,因为和主启动类同级会被扫描到

然后在该包下自定义一个规则类MyRandomRule.java(这个类参考Ribbon中默认的规则,自己简单改动一下代码)

springcloud-consumer-dept-80 : src/main/java/com/lv/myrule/LvRandomRule.java

package com.lv.myrule;

import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.ILoadBalancer;
import com.netflix.loadbalancer.Server;

import java.util.List;
import java.util.concurrent.ThreadLocalRandom;

public class LvRandomRule extends AbstractLoadBalancerRule {

    //每个服务 访问5次,换下一个服务(我们目前有3个)

    //total=0,默认=0,如果=5,我们指向下一个服务节点
    //index=0,默认0,如果total=5,index+1,

    private int total = 0;//被调用的次数
    private int currentIndex = 0;//当前是谁在提供服务~

    @SuppressWarnings({"RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE"})
    public Server choose(ILoadBalancer lb, Object key) {
        if (lb == null) {
            return null;
        } else {
            Server server = null;

            while(server == null) {
                if (Thread.interrupted()) {
                    return null;
                }

                List<Server> upList = lb.getReachableServers(); //获得活着的服务
                List<Server> allList = lb.getAllServers(); //获得全部的服务

                int serverCount = allList.size();
                if (serverCount == 0) {
                    return null;
                }

                int index = this.chooseRandomInt(serverCount); //生成区间随机数
                server = (Server)upList.get(index); //从活着服务中随机获取一个~
                //====================================================================
                if(total<5){
                    server = upList.get(currentIndex);
                    total++;
                }else {
                    total = 0;
                    currentIndex++;
                    if (currentIndex>upList.size()){
                        currentIndex = 0;
                    }
                    server = upList.get(currentIndex);//从活着的服务中,获取指定的服务来进行操作
                }
                //====================================================================
                if (server == null) {
                    Thread.yield();
                } else {
                    if (server.isAlive()) {
                        return server;
                    }

                    server = null;
                    Thread.yield();
                }
            }
            return server;
        }
    }

    protected int chooseRandomInt(int serverCount) {
        return ThreadLocalRandom.current().nextInt(serverCount);
    }

    public Server choose(Object key) {
        return this.choose(this.getLoadBalancer(), key);
    }

    public void initWithNiwsConfig(IClientConfig clientConfig) {
    }
}

再在myrule包下编写一个配置类LvRule.java,并把我们原来ConfigBean.java中定义注册规则的Bean,改写到这个类中

springcloud-consumer-dept-80 : src/main/java/com/lv/myrule/LvRule.java

package com.lv.myrule;

import com.netflix.loadbalancer.IRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class LvRule {
    @Bean
    public IRule myRule(){
        return new LvRandomRule();//默认是轮询,现在我们定义为LvRandomRule
    }
}

最后在主启动类中开启负载均衡并指定自定义的MyRule配置类

springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/DeptConsumer_80.java

package com.lv.springcloud;

import com.lv.myrule.LvRule;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
import org.springframework.cloud.netflix.ribbon.RibbonClient;

//Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号
@SpringBootApplication
@EnableEurekaClient
//在微服务启动的时候就能加载我们自定义的Ribbon类(自定义的规则会覆盖原有默认的规则)
@RibbonClient(name = "SPRINGCLOUD-PROVIDER-DEPT",configuration = LvRule.class)//开启负载均衡,并指定自定义的规则
public class DeptConsumer_80 {
    public static void main(String[] args) {
        SpringApplication.run(DeptConsumer_80.class,args);
    }
}

到此为止我们自定义的规则就完成了,和之前的测试方式完全相同,在所有项目运行状态下,多次访问http://localhost/consumer/dept/list即可查看目前策略的确是我们定义的,这里省略演示步骤

posted @ 2022-03-21 15:28  从0开始丿  阅读(71)  评论(0)  编辑  收藏  举报