springcloud-Ribbon负载均衡(基于客户端)
1 概念描述
1.1 什么是负载均衡?
- LB,即负载均衡 (LoadBalancer) ,在微服务或分布式集群中经常用的一种应用。
- 负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA (高用)。
- 常见的负载均衡软件有 Nginx、Lvs 等等。
- Dubbo、SpringCloud 中均给我们提供了负载均衡,SpringCloud 的负载均衡算法可以自定义。
1.2 负载均衡简单分类
集中式LB :
- 即在服务的提供方和消费方之间使用独立的LB设施,如Nginx(反向代理服务器),由该设施负责把访问请求通过某种策略转发至服务的提供方!
进程式LB :
- 将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选出一个合适的服务器。
- Ribbon 就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址!
1.3 Ribbon是什么
- Spring Cloud Ribbon 是基于Netflix Ribbon 实现的一套客户端负载均衡的工具。
- 简单的说,Ribbon 是 Netflix 发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将 Netflix 的中间层服务连接在一起。Ribbon 的客户端组件提供一系列完整的配置项,如:连接超时、重试等。简单的说,就是在配置文件中列出 LoadBalancer (简称LB:负载均衡) 后面所有的及其,Ribbon 会自动的帮助你基于某种规则 (如简单轮询,随机连接等等) 去连接这些机器。我们也容易使用 Ribbon 实现自定义的负载均衡算法!
1.4 Ribbon能干什么
通过轮询或随机的算法,将若干个请求分配给多个不同的请求处理方
2 集成Ribbon
修改项目中的springcloud-consumer-dept-80模块
2.1 引入依赖
springcloud-consumer-dept-80 : pom.xml
<!--Ribbon-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-ribbon</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--EUREKA-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
2.2 修改配置文件
在application.yml文件中修改Eureka的配置
springcloud-consumer-dept-80 : src/main/resources/application.yaml
#Eureka配置
eureka:
client:
register-with-eureka: false #不向Eureka中注册自己
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
2.3 修改主启动类
在主启动类上添加@EnableEurekaClient注解,开启Eureka
springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/DeptConsumer_80.java
//Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号
@SpringBootApplication
@EnableEurekaClient
public class DeptConsumer_80 {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer_80.class,args);
}
}
2.4 修改配置类
在配置类中添加@LoadBalanced注解来配置负载均衡实现RestTemplate
springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/config/ConfigBean.java
@Configuration
public class ConfigBean {//添加了@Configuration注解后这个类就相当于spring中的applicationContext.xml
//配置负载均衡实现RestTemplate
@Bean
@LoadBalanced //Ribbon
public RestTemplate getRestTemplate(){
return new RestTemplate();
}
}
2.5 修改控制层
修改DeptConsumerController.java中的访问地址
//Ribbon. 我们这里的地址,应该是一个变量,通过服务名来访问
//private static final String REST_URL_PREFIX = "http://localhost:8001";
private static final String REST_URL_PREFIX = "http://SPRINGCLOUD-PROVIDER-DEPT";
3 使用Ribbon实现负载均衡
3.1 创建数据库
新建两个数据库 DB02 和 DB03,并在两个数据库下分别编写一个和DB01中相同的dept表
3.2 创建多个服务提供者
在父工程下新建两个普通的maven项目:springcloud-provider-dept-8002和springcloud-provider-dept-8003,这个两个模块和springcloud-provider-dept-8001构成三个服务提供者
springcloud-provider-dept-8002和springcloud-provider-dept-8003这两个模块完全复制springcloud-provider-dept-8001模块,只需修改配置文件和主启动类的部分内容.
配置文件中有三个地方需要修改
springcloud-provider-dept-8002 : src/main/resources/application.yaml
修改端口号
server:
port: 8002
修改数据库地址
url: jdbc:mysql://localhost:3306/db02?useSSL=false&useUnicode=true&characterEncoding=utf-8
修改配置eureka上的默认描述信息
instance:
instance-id: springcloud-provider-dept8002 #修改eureka上的默认描述信息!
springcloud-provider-dept-8003 : src/main/resources/application.yaml
修改端口号
server:
port: 8003
修改数据库地址
url: jdbc:mysql://localhost:3306/db03?useSSL=false&useUnicode=true&characterEncoding=utf-8
修改配置eureka上的默认描述信息
instance:
instance-id: springcloud-provider-dept8003 #修改eureka上的默认描述信息!
主启动类需要修改名字和SpringApplication.run()的第一个参数
springcloud-provider-dept-8002 : src/main/java/com/lv/springcloud/DeptProvider_8002.java
//启动类
@SpringBootApplication
@EnableEurekaClient// 在服务启动后自动注册到Eureka中
@EnableDiscoveryClient //服务发现
public class DeptProvider_8002 {
public static void main(String[] args) {
SpringApplication.run(DeptProvider_8002.class,args);
}
}
springcloud-provider-dept-8003 : src/main/java/com/lv/springcloud/DeptProvider_8003.java
//启动类
@SpringBootApplication
@EnableEurekaClient// 在服务启动后自动注册到Eureka中
@EnableDiscoveryClient //服务发现
public class DeptProvider_8003 {
public static void main(String[] args) {
SpringApplication.run(DeptProvider_8003.class,args);
}
}
3.3 启动所有服务,进行测试
所有项目运行成功后,访问http://localhost:7001/
可以看到我们的三个服务提供者,都成功注册,此时访问http://localhost:7002/和http://localhost:7003/效果也是一样的,就不放截图了,接下来我们访问http://localhost/consumer/dept/list,来查询数据库的内容
从上图中可以看出,我们查询的是db01数据库的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者1,即8001端口,也就是springcloud-provider-dept-8001模块,接下来我们再继续访问http://localhost/consumer/dept/list
这次显示的是db03中的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者3,即8003端口,也就是springcloud-provider-dept-8003模块,接下来我们再继续访问http://localhost/consumer/dept/list
这次显示的是db03中的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者2,即8002端口,也就是springcloud-provider-dept-8002模块,如果我们继续不停的访问http://localhost/consumer/dept/list,那么就会一直循环这个顺序 01-03-02 这种情况就叫做轮询,轮询算法在SpringCloud中可以自定义.
4 切换或自定义负载均衡策略
4.1 切换负载均衡策略
在springcloud-provider-dept-80模块下的ConfigBean中进行配置,切换使用不同的规则
springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/config/ConfigBean.java
package com.lv.springcloud.config;
import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;
@Configuration
public class ConfigBean {//添加了@Configuration注解后这个类就相当于spring中的applicationContext.xml
/*
IRule:
RoundRobinRule 轮询策略
RandomRule 随机策略
AvailabilityFilteringRule : 会先过滤掉,跳闸,访问故障的服务~,对剩下的进行轮询~
RetryRule : 会先按照轮询获取服务~,如果服务获取失败,则会在指定的时间内进行,重试
*/
@Bean
public IRule myRule() {
return new RandomRule();//使用随机策略
//return new RoundRobinRule();//使用轮询策略
//return new AvailabilityFilteringRule();
//return new RetryRule();
}
@Bean
@LoadBalanced //Ribbon
public RestTemplate getRestTemplate(){
return new RestTemplate();
}
}
启动所有项目,多次访问http://localhost/consumer/dept/list,根据每次得出的结果发现已经改用用我们切换的策略,这里就不演示了
4.2 自定义负载均衡策略
首先创建一个myRule包,注意:该包的位置不要和主启动类同级,要和主启动类所在的包同级,因为和主启动类同级会被扫描到
然后在该包下自定义一个规则类MyRandomRule.java(这个类参考Ribbon中默认的规则,自己简单改动一下代码)
springcloud-consumer-dept-80 : src/main/java/com/lv/myrule/LvRandomRule.java
package com.lv.myrule;
import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.ILoadBalancer;
import com.netflix.loadbalancer.Server;
import java.util.List;
import java.util.concurrent.ThreadLocalRandom;
public class LvRandomRule extends AbstractLoadBalancerRule {
//每个服务 访问5次,换下一个服务(我们目前有3个)
//total=0,默认=0,如果=5,我们指向下一个服务节点
//index=0,默认0,如果total=5,index+1,
private int total = 0;//被调用的次数
private int currentIndex = 0;//当前是谁在提供服务~
@SuppressWarnings({"RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE"})
public Server choose(ILoadBalancer lb, Object key) {
if (lb == null) {
return null;
} else {
Server server = null;
while(server == null) {
if (Thread.interrupted()) {
return null;
}
List<Server> upList = lb.getReachableServers(); //获得活着的服务
List<Server> allList = lb.getAllServers(); //获得全部的服务
int serverCount = allList.size();
if (serverCount == 0) {
return null;
}
int index = this.chooseRandomInt(serverCount); //生成区间随机数
server = (Server)upList.get(index); //从活着服务中随机获取一个~
//====================================================================
if(total<5){
server = upList.get(currentIndex);
total++;
}else {
total = 0;
currentIndex++;
if (currentIndex>upList.size()){
currentIndex = 0;
}
server = upList.get(currentIndex);//从活着的服务中,获取指定的服务来进行操作
}
//====================================================================
if (server == null) {
Thread.yield();
} else {
if (server.isAlive()) {
return server;
}
server = null;
Thread.yield();
}
}
return server;
}
}
protected int chooseRandomInt(int serverCount) {
return ThreadLocalRandom.current().nextInt(serverCount);
}
public Server choose(Object key) {
return this.choose(this.getLoadBalancer(), key);
}
public void initWithNiwsConfig(IClientConfig clientConfig) {
}
}
再在myrule包下编写一个配置类LvRule.java,并把我们原来ConfigBean.java中定义注册规则的Bean,改写到这个类中
springcloud-consumer-dept-80 : src/main/java/com/lv/myrule/LvRule.java
package com.lv.myrule;
import com.netflix.loadbalancer.IRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class LvRule {
@Bean
public IRule myRule(){
return new LvRandomRule();//默认是轮询,现在我们定义为LvRandomRule
}
}
最后在主启动类中开启负载均衡并指定自定义的MyRule配置类
springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/DeptConsumer_80.java
package com.lv.springcloud;
import com.lv.myrule.LvRule;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
import org.springframework.cloud.netflix.ribbon.RibbonClient;
//Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号
@SpringBootApplication
@EnableEurekaClient
//在微服务启动的时候就能加载我们自定义的Ribbon类(自定义的规则会覆盖原有默认的规则)
@RibbonClient(name = "SPRINGCLOUD-PROVIDER-DEPT",configuration = LvRule.class)//开启负载均衡,并指定自定义的规则
public class DeptConsumer_80 {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer_80.class,args);
}
}
到此为止我们自定义的规则就完成了,和之前的测试方式完全相同,在所有项目运行状态下,多次访问http://localhost/consumer/dept/list即可查看目前策略的确是我们定义的,这里省略演示步骤