springcloud-Ribbon负载均衡(基于客户端)
1 概念描述
1.1 什么是负载均衡?
- LB,即负载均衡 (LoadBalancer) ,在微服务或分布式集群中经常用的一种应用。
- 负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA (高用)。
- 常见的负载均衡软件有 Nginx、Lvs 等等。
- Dubbo、SpringCloud 中均给我们提供了负载均衡,SpringCloud 的负载均衡算法可以自定义。
1.2 负载均衡简单分类
集中式LB :
- 即在服务的提供方和消费方之间使用独立的LB设施,如Nginx(反向代理服务器),由该设施负责把访问请求通过某种策略转发至服务的提供方!
进程式LB :
- 将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选出一个合适的服务器。
- Ribbon 就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址!
1.3 Ribbon是什么
- Spring Cloud Ribbon 是基于Netflix Ribbon 实现的一套客户端负载均衡的工具。
- 简单的说,Ribbon 是 Netflix 发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将 Netflix 的中间层服务连接在一起。Ribbon 的客户端组件提供一系列完整的配置项,如:连接超时、重试等。简单的说,就是在配置文件中列出 LoadBalancer (简称LB:负载均衡) 后面所有的及其,Ribbon 会自动的帮助你基于某种规则 (如简单轮询,随机连接等等) 去连接这些机器。我们也容易使用 Ribbon 实现自定义的负载均衡算法!
1.4 Ribbon能干什么
通过轮询或随机的算法,将若干个请求分配给多个不同的请求处理方
2 集成Ribbon
修改项目中的springcloud-consumer-dept-80模块
2.1 引入依赖
springcloud-consumer-dept-80 : pom.xml
<!--Ribbon--> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-ribbon</artifactId> <version>1.4.6.RELEASE</version> </dependency> <!--EUREKA--> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-eureka</artifactId> <version>1.4.6.RELEASE</version> </dependency>
2.2 修改配置文件
在application.yml文件中修改Eureka的配置
springcloud-consumer-dept-80 : src/main/resources/application.yaml
#Eureka配置 eureka: client: register-with-eureka: false #不向Eureka中注册自己 service-url: defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
2.3 修改主启动类
在主启动类上添加@EnableEurekaClient注解,开启Eureka
springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/DeptConsumer_80.java
//Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号 @SpringBootApplication @EnableEurekaClient public class DeptConsumer_80 { public static void main(String[] args) { SpringApplication.run(DeptConsumer_80.class,args); } }
2.4 修改配置类
在配置类中添加@LoadBalanced注解来配置负载均衡实现RestTemplate
springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/config/ConfigBean.java
@Configuration public class ConfigBean {//添加了@Configuration注解后这个类就相当于spring中的applicationContext.xml //配置负载均衡实现RestTemplate @Bean @LoadBalanced //Ribbon public RestTemplate getRestTemplate(){ return new RestTemplate(); } }
2.5 修改控制层
修改DeptConsumerController.java中的访问地址
//Ribbon. 我们这里的地址,应该是一个变量,通过服务名来访问 //private static final String REST_URL_PREFIX = "http://localhost:8001"; private static final String REST_URL_PREFIX = "http://SPRINGCLOUD-PROVIDER-DEPT";
3 使用Ribbon实现负载均衡
3.1 创建数据库
新建两个数据库 DB02 和 DB03,并在两个数据库下分别编写一个和DB01中相同的dept表
3.2 创建多个服务提供者
在父工程下新建两个普通的maven项目:springcloud-provider-dept-8002和springcloud-provider-dept-8003,这个两个模块和springcloud-provider-dept-8001构成三个服务提供者
springcloud-provider-dept-8002和springcloud-provider-dept-8003这两个模块完全复制springcloud-provider-dept-8001模块,只需修改配置文件和主启动类的部分内容.
配置文件中有三个地方需要修改
springcloud-provider-dept-8002 : src/main/resources/application.yaml
修改端口号
server: port: 8002
修改数据库地址
url: jdbc:mysql://localhost:3306/db02?useSSL=false&useUnicode=true&characterEncoding=utf-8
修改配置eureka上的默认描述信息
instance: instance-id: springcloud-provider-dept8002 #修改eureka上的默认描述信息!
springcloud-provider-dept-8003 : src/main/resources/application.yaml
修改端口号
server: port: 8003
修改数据库地址
url: jdbc:mysql://localhost:3306/db03?useSSL=false&useUnicode=true&characterEncoding=utf-8
修改配置eureka上的默认描述信息
instance: instance-id: springcloud-provider-dept8003 #修改eureka上的默认描述信息!
主启动类需要修改名字和SpringApplication.run()的第一个参数
springcloud-provider-dept-8002 : src/main/java/com/lv/springcloud/DeptProvider_8002.java
//启动类 @SpringBootApplication @EnableEurekaClient// 在服务启动后自动注册到Eureka中 @EnableDiscoveryClient //服务发现 public class DeptProvider_8002 { public static void main(String[] args) { SpringApplication.run(DeptProvider_8002.class,args); } }
springcloud-provider-dept-8003 : src/main/java/com/lv/springcloud/DeptProvider_8003.java
//启动类 @SpringBootApplication @EnableEurekaClient// 在服务启动后自动注册到Eureka中 @EnableDiscoveryClient //服务发现 public class DeptProvider_8003 { public static void main(String[] args) { SpringApplication.run(DeptProvider_8003.class,args); } }
3.3 启动所有服务,进行测试
所有项目运行成功后,访问http://localhost:7001/
可以看到我们的三个服务提供者,都成功注册,此时访问http://localhost:7002/和http://localhost:7003/效果也是一样的,就不放截图了,接下来我们访问http://localhost/consumer/dept/list,来查询数据库的内容
从上图中可以看出,我们查询的是db01数据库的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者1,即8001端口,也就是springcloud-provider-dept-8001模块,接下来我们再继续访问http://localhost/consumer/dept/list
这次显示的是db03中的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者3,即8003端口,也就是springcloud-provider-dept-8003模块,接下来我们再继续访问http://localhost/consumer/dept/list
这次显示的是db03中的内容,说明Ribbon默认负载均衡给我们分配到了服务提供者2,即8002端口,也就是springcloud-provider-dept-8002模块,如果我们继续不停的访问http://localhost/consumer/dept/list,那么就会一直循环这个顺序 01-03-02 这种情况就叫做轮询,轮询算法在SpringCloud中可以自定义.
4 切换或自定义负载均衡策略
4.1 切换负载均衡策略
在springcloud-provider-dept-80模块下的ConfigBean中进行配置,切换使用不同的规则
springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/config/ConfigBean.java
package com.lv.springcloud.config; import com.netflix.loadbalancer.IRule; import com.netflix.loadbalancer.RandomRule; import org.springframework.cloud.client.loadbalancer.LoadBalanced; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import org.springframework.web.client.RestTemplate; @Configuration public class ConfigBean {//添加了@Configuration注解后这个类就相当于spring中的applicationContext.xml /* IRule: RoundRobinRule 轮询策略 RandomRule 随机策略 AvailabilityFilteringRule : 会先过滤掉,跳闸,访问故障的服务~,对剩下的进行轮询~ RetryRule : 会先按照轮询获取服务~,如果服务获取失败,则会在指定的时间内进行,重试 */ @Bean public IRule myRule() { return new RandomRule();//使用随机策略 //return new RoundRobinRule();//使用轮询策略 //return new AvailabilityFilteringRule(); //return new RetryRule(); } @Bean @LoadBalanced //Ribbon public RestTemplate getRestTemplate(){ return new RestTemplate(); } }
启动所有项目,多次访问http://localhost/consumer/dept/list,根据每次得出的结果发现已经改用用我们切换的策略,这里就不演示了
4.2 自定义负载均衡策略
首先创建一个myRule包,注意:该包的位置不要和主启动类同级,要和主启动类所在的包同级,因为和主启动类同级会被扫描到
然后在该包下自定义一个规则类MyRandomRule.java(这个类参考Ribbon中默认的规则,自己简单改动一下代码)
springcloud-consumer-dept-80 : src/main/java/com/lv/myrule/LvRandomRule.java
package com.lv.myrule; import com.netflix.client.config.IClientConfig; import com.netflix.loadbalancer.AbstractLoadBalancerRule; import com.netflix.loadbalancer.ILoadBalancer; import com.netflix.loadbalancer.Server; import java.util.List; import java.util.concurrent.ThreadLocalRandom; public class LvRandomRule extends AbstractLoadBalancerRule { //每个服务 访问5次,换下一个服务(我们目前有3个) //total=0,默认=0,如果=5,我们指向下一个服务节点 //index=0,默认0,如果total=5,index+1, private int total = 0;//被调用的次数 private int currentIndex = 0;//当前是谁在提供服务~ @SuppressWarnings({"RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE"}) public Server choose(ILoadBalancer lb, Object key) { if (lb == null) { return null; } else { Server server = null; while(server == null) { if (Thread.interrupted()) { return null; } List<Server> upList = lb.getReachableServers(); //获得活着的服务 List<Server> allList = lb.getAllServers(); //获得全部的服务 int serverCount = allList.size(); if (serverCount == 0) { return null; } int index = this.chooseRandomInt(serverCount); //生成区间随机数 server = (Server)upList.get(index); //从活着服务中随机获取一个~ //==================================================================== if(total<5){ server = upList.get(currentIndex); total++; }else { total = 0; currentIndex++; if (currentIndex>upList.size()){ currentIndex = 0; } server = upList.get(currentIndex);//从活着的服务中,获取指定的服务来进行操作 } //==================================================================== if (server == null) { Thread.yield(); } else { if (server.isAlive()) { return server; } server = null; Thread.yield(); } } return server; } } protected int chooseRandomInt(int serverCount) { return ThreadLocalRandom.current().nextInt(serverCount); } public Server choose(Object key) { return this.choose(this.getLoadBalancer(), key); } public void initWithNiwsConfig(IClientConfig clientConfig) { } }
再在myrule包下编写一个配置类LvRule.java,并把我们原来ConfigBean.java中定义注册规则的Bean,改写到这个类中
springcloud-consumer-dept-80 : src/main/java/com/lv/myrule/LvRule.java
package com.lv.myrule; import com.netflix.loadbalancer.IRule; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; @Configuration public class LvRule { @Bean public IRule myRule(){ return new LvRandomRule();//默认是轮询,现在我们定义为LvRandomRule } }
最后在主启动类中开启负载均衡并指定自定义的MyRule配置类
springcloud-consumer-dept-80 : src/main/java/com/lv/springcloud/DeptConsumer_80.java
package com.lv.springcloud; import com.lv.myrule.LvRule; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cloud.netflix.eureka.EnableEurekaClient; import org.springframework.cloud.netflix.ribbon.RibbonClient; //Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号 @SpringBootApplication @EnableEurekaClient //在微服务启动的时候就能加载我们自定义的Ribbon类(自定义的规则会覆盖原有默认的规则) @RibbonClient(name = "SPRINGCLOUD-PROVIDER-DEPT",configuration = LvRule.class)//开启负载均衡,并指定自定义的规则 public class DeptConsumer_80 { public static void main(String[] args) { SpringApplication.run(DeptConsumer_80.class,args); } }
到此为止我们自定义的规则就完成了,和之前的测试方式完全相同,在所有项目运行状态下,多次访问http://localhost/consumer/dept/list即可查看目前策略的确是我们定义的,这里省略演示步骤
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构
· 字符编码:从基础到乱码解决
· 提示词工程——AI应用必不可少的技术