Ribbon介绍
Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具
Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时、重试等。简单的说,就是在配置文件中列出Load Balance(简称LB)后面所有的机器,Ribbon会自动的帮组你基于某种规则(如简单轮询,随机连接等)去连接这些机器,我们很容易使用Ribbon实现自定义的负载均衡算法
LB负载均衡(Load Balance)
简单的说就是将用户的请求平摊到分配到多个服务上,从而达到系统的HA(高可用)。
常见的负载均衡有软件Nginx、LVS、硬件FS等
Ribbon本地负载均衡客户端 VS Nginx服务端负载均衡区别
Nginx是服务器负载均衡,客户端所有请求都会教给Nginx,然后由nginx实现转发请求,即负载均衡是由服务端实现的
Ribbon本地负载均衡,在调用微服务接口时候,会在注册中心上获取注册信息服务列表之后缓存到JVM本地,从而本地实现RPC远程调用技术
官网:https://github.com/Netflix/ribbon
Ribbon使用
1、搭建项目、参考【SpringCloud】服务提供者集群与服务发现Discovery(三) 的示例
采用Eureka作为注册中心,且有2个服务提供者
架构如下:
2、Ribbon依赖,依赖如下:
1 <dependency> 2 <groupId>org.springframework.cloud</groupId> 3 <artifactId>spring-cloud-starter-netflix-ribbon</artifactId> 4 <version>2.2.2.RELEASE</version> 5 <scope>compile</scope> 6 </dependency>
通过查看示例项目,调用者order项目依赖,发现在Eureka依赖中,默认含有依赖Ribbon的依赖
3、查看RibbonClientConfiguration.java,Ribbon自动装载类。
1 @Configuration(proxyBeanMethods = false) 2 @EnableConfigurationProperties 3 @Import({ HttpClientConfiguration.class, OkHttpRibbonConfiguration.class, 4 RestClientRibbonConfiguration.class, HttpClientRibbonConfiguration.class }) 5 public class RibbonClientConfiguration { 6 7 ... 8 9 // 自动注入IRule接口用来代表负责负载均衡的策略 10 @Bean 11 @ConditionalOnMissingBean 12 public IRule ribbonRule(IClientConfig config) { 13 if (this.propertiesFactory.isSet(IRule.class, name)) { 14 return this.propertiesFactory.get(IRule.class, config, name); 15 } 16 ZoneAvoidanceRule rule = new ZoneAvoidanceRule(); 17 rule.initWithNiwsConfig(config); 18 return rule; 19 } 20 21 // 自动注入ILoadBalance接口用来代表负责均衡的操作 22 @Bean 23 @ConditionalOnMissingBean 24 public ILoadBalancer ribbonLoadBalancer(IClientConfig config, 25 ServerList<Server> serverList, ServerListFilter<Server> serverListFilter, 26 IRule rule, IPing ping, ServerListUpdater serverListUpdater) { 27 if (this.propertiesFactory.isSet(ILoadBalancer.class, name)) { 28 return this.propertiesFactory.get(ILoadBalancer.class, config, name); 29 } 30 return new ZoneAwareLoadBalancer<>(config, rule, ping, serverList, 31 serverListFilter, serverListUpdater); 32 } 33 34 ... 35 }
其中自动注入IRule接口用来代表负责负载均衡的策略(默认策略:ZoneAvoidanceRule),和自动注入ILoadBalance接口用来代表负责均衡的操作(默认均衡:ZoneAwareLoadBalancer)
4、查看ILoadBalance接口(负责均衡的操作)
继承关系如下:
内容如下:
1 public interface ILoadBalancer { 2 3 public void addServers(List<Server> newServers); 4 5 // 根据key选择一个服务 6 public Server chooseServer(Object key); 7 8 public void markServerDown(Server server); 9 10 public List<Server> getServerList(boolean availableOnly); 11 12 public List<Server> getReachableServers(); 13 14 public List<Server> getAllServers(); 15 }
5、查看IRule接口(负责均衡的策略)
实现关系:
内容如下:
1 public interface IRule{ 2 3 // 根据key选择一个服务 4 public Server choose(Object key); 5 6 public void setLoadBalancer(ILoadBalancer lb); 7 8 public ILoadBalancer getLoadBalancer(); 9 }
通过查看实例类,可以看到具体的实现了,可以知道负责均衡的策略
6、Ribbon工作原理
查看LoadBalancerAutoConfiguration自动配置类
1 @Configuration(proxyBeanMethods = false) 2 @ConditionalOnClass(RestTemplate.class) 3 @ConditionalOnBean(LoadBalancerClient.class) 4 @EnableConfigurationProperties(LoadBalancerRetryProperties.class) 5 public class LoadBalancerAutoConfiguration { 6 7 8 ... 9 10 11 @Configuration(proxyBeanMethods = false) 12 @ConditionalOnClass(RetryTemplate.class) 13 public static class RetryInterceptorAutoConfiguration { 14 15 @Bean 16 @ConditionalOnMissingBean 17 public RetryLoadBalancerInterceptor ribbonInterceptor( 18 LoadBalancerClient loadBalancerClient, 19 LoadBalancerRetryProperties properties, 20 LoadBalancerRequestFactory requestFactory, 21 LoadBalancedRetryFactory loadBalancedRetryFactory) { 22 return new RetryLoadBalancerInterceptor(loadBalancerClient, properties, 23 requestFactory, loadBalancedRetryFactory); 24 } 25 26 // RestTemplate定制器 27 @Bean 28 @ConditionalOnMissingBean 29 public RestTemplateCustomizer restTemplateCustomizer( 30 final RetryLoadBalancerInterceptor loadBalancerInterceptor) { 31 return restTemplate -> { 32 List<ClientHttpRequestInterceptor> list = new ArrayList<>( 33 restTemplate.getInterceptors()); 34 list.add(loadBalancerInterceptor); 35 // 给restTemplate,设置拦截器 36 restTemplate.setInterceptors(list); 37 }; 38 } 39 40 } 41 42 }
其中自动配置了一个LoadBalancerInterceptor,LoadBalancerInterceptor是个ClientHttpRequestInterceptor客户端请求拦截器。它的作用是在客户端发起请求之前拦截,进而实现客户端的负载均衡。
以下是RestTemplate注入,加@LoadBalanced,的配置方法
1 @Configuration 2 public class AppConfig { 3 4 /** 5 * 注入restTemplate,请用请求rest接口 6 * @return 7 */ 8 @Bean 9 // 标注此注解后,RestTemplate就具有了客户端负载均衡能力 10 // 负载均衡技术依赖于的是Ribbon组件~ 11 // RestTemplate都塞入一个loadBalancerInterceptor 让其具备有负载均衡的能力 12 @LoadBalanced 13 public RestTemplate restTemplate(){ 14 return new RestTemplate(); 15 } 16 }
7、测试Ribbon,是否根据对于的负责均衡的策略,实现负载
1)调试模式启动项目,使用地址:http://localhost:8000/consumer/payment/get/1,进行访问
返回内容为提供者2个节点分别交替返回的,到达负载均衡目的。
2)在ZoneAvoidanceRule类中添加断点,通过运行程序,可以看到程序会运行到ZoneAvoidanceRule类中。
自带负载均衡规则说明
策略名 | 策略声明 | 策略描述 | 实现说明 |
BestAvailableRule | public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule | 选择一个最小的并发请求的server | 逐个考察Server,如果Server被tripped了,则忽略,在选择其中ActiveRequestsCount最小的server |
AvailabilityFilteringRule | public class AvailabilityFilteringRule extends PredicateBasedRule | 过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server,并过滤掉那些高并发的的后端server(active connections 超过配置的阈值) | 使用一个AvailabilityPredicate来包含过滤server的逻辑,其实就就是检查status里记录的各个server的运行状态 |
WeightedResponseTimeRule | public class WeightedResponseTimeRule extends RoundRobinRule | 根据相应时间分配一个weight,相应时间越长,weight越小,被选中的可能性越低。 | 一个后台线程定期的从status里面读取评价响应时间,为每个server计算一个weight。Weight的计算也比较简单responsetime 减去每个server自己平均的responsetime是server的权重。当刚开始运行,没有形成statas时,使用roubine策略选择server。 |
RetryRule | public class RetryRule extends AbstractLoadBalancerRule | 对选定的负载均衡策略机上重试机制。 | 在一个配置时间段内当选择server不成功,则一直尝试使用subRule的方式选择一个可用的server |
RoundRobinRule | public class RoundRobinRule extends AbstractLoadBalancerRule | roundRobin方式轮询选择server | 轮询index,选择index对应位置的server |
RandomRule | public class RandomRule extends AbstractLoadBalancerRule | 随机选择一个server | 在index上随机,选择index对应位置的server |
ZoneAvoidanceRule | public class ZoneAvoidanceRule extends PredicateBasedRule | 复合判断server所在区域的性能和server的可用性选择server | 使用ZoneAvoidancePredicate和AvailabilityPredicate来判断是否选择某个server,前一个判断判定一个zone的运行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于过滤掉连接数过多的Server。 |