SpringCloud详解 第二章 客户端负载均衡 Ribbon(一)
Ribbon
1. 负载均衡(Load Balance)
SpringCloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡工具
LB(负载均衡)简单的说就是讲用户的请求平摊的分配到多个服务上,从而达到系统HA(高可用).常见的有Nginx,LVS,硬件F5等.其分为:
- 进程内LB:将LB逻辑继承到消费方,消费方从服务注册中心获取那些地址可用,然后自己再从这些地址中选出一个合适的服务器
- 集中式LB:即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件F5,也可以是软件Nginx),由该设施负责把访问请求通过某种策略转发至提供方
在相应中间件,例如dubbo和SpringCloud中均提供了负载均衡.SpringCloud的负载均衡算法可以自定义
2. pom.xml
<!--Ribbon需要跟Eureka整合--> <dependency> <groupId>org.springframework.cloud<groupId> <artifactId>spring-cloud-starter-ribbon</artifactId> </dependency>
3. application配置
//追加eureka的服务注册地址 eureka: client: register-with-eureka:false service-url: defaultZone:http://eureka.com #这里改成eureka服务地址
4. java代码
第一种:
RestTemplate restTemplate = new RestTemplate(); String response = restTemplate.getForObject("http://localhost:8080/msg",String.class);
第二种:
@Autowired private LoadBalancerClient loadBalancerClient; @GetMapping("/girl/print") public String print() { RestTemplate restTemplate = new RestTemplate(); ServiceInstance serviceInstance = loadBalancerClient.choose("PRODUCT");//服务名 String url = String.format("http://%s:%s",serviceInstance.getHost(),serviceInstance.getPort()); String response = restTemplate.getForObject(url, String.class); return ""; }
第三种:
添加Bean
//客户端启动类添加 @EnableEurekaClient //如果是Rest风格在RestTemplate上添加@LoadBalanced注解 @Bean @LoadBalanced //开启负载均衡 public RestTemplate getRestTemplate(){ return new RestTemplate }
应用代码
@Autowired private RestTemplate restTemplate; @GetMapping("/girl/print") public String print() { String response = restTemplate.getForObject("http://PRODUCT/msg", String.class);//将调用地址改为服务端在EurekaServer注册的服务名,如果是集群在Eureka注册名要相同 return ""; }
注:RestTemplate 针对get、post、put、delete提供了不同的调用函数
5. IRule
根据特定算法从服务列表中选取一个要访问的服务,默认规则如下
-
RoundRobinRule
轮询 -
RandomRule
随机 -
AvailabilityFilteringRule
会过滤掉多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阀值的服务,然后对剩余服务列表按照轮询策略进行访问 -
WeightedResponseTimeRule
根据平均响应时间计算所有服务的权重,响应时间越快的服务权重越大被选中的概率越高.刚启动时如果统计信息不足,则使用RoundRobinRule策略,等统计信息足够,会切换到此算法 -
RetryRule
先按照RoundRobinRule的策略获取服务,如果获取服务失败则在指定时间内会进行重试,获取可用的服务 -
BestAvailableRule
回显过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务 -
ZoneAvoidanceRule
默认规则,符合判断server所在区域的性能和server的可用性选择服务器
修改轮询算法
第一种
@Bean public IRule myRule(){ return new RandomRule(); //自己创建实例后就,系统就不会自动配置相应的实例,达到实现要更换的算法 }
第二种
pom.xml
order.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule
//我们可以指定负载均衡策略,其格式为:<clientName>.<clientConfigNameSpace>.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.<className>
className值:BestAvailableRule(),RandomRule(随机) , RoundRobbinRule(轮询) , WeightedResponseTimeRule(权重响应时间)
第三种:
@RibbonClient 主要用于配置RibbonClient客户端的,而且这个注解在我们服务发现中不是必须要配置的,如果我们使用SpringCloud中的服务发现机制,此时SpringCloud会给我们提供默认的Ribbon配置,甚至我们不需要配置@RibbonClient,不过当我们需要定义自己的RibbonClient或者不实用服务发现时,那么我们可以使用@RibbonClient注解
使用例子:
在我们的启动类上添加如下注解
@RibbonClient(name = "myservice")
然后我们在application.properties做如下配置:
myservice.ribbon.eureka.enabled=false myservice.ribbon.listOfServers=http://localhost:5000, http://localhost:5001
自定义算法配置细节:
这个自定义配置类不能放在@ComponentScan所扫描的当前包以及子包下(不能与启动类在一块 ),否则我们定义的这个配置类会被所有Ribbon客户端所共享,从而达不到特殊化定制的目的
自定义算法示例:
//实现一个随机并且不能与上一次重复的负载均衡算法 public class RandomRule extends AbstractLoadBalancerRule { //上一次的访问服务的下标 int prev = -1; @edu.umd.cs.findbugs.annotations.SuppressWarnings(value = "RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE") public Server choose(ILoadBalancer lb, Object key) { if (lb == null) { return null; } Server server = null; while (server == null) { if (Thread.interrupted()) { return null; } //还没有挂掉的服务 List<Server> upList = lb.getReachableServers(); //所有的服务 List<Server> allList = lb.getAllServers(); //所有服务数 int serverCount = allList.size(); if (serverCount == 0) { return null; } //原有的随机逻辑 //int index = chooseRandomInt(serverCount); //server = upList.get(index); //自定义的逻辑 int index = chooseRandomInt(serverCount); //记录第一次使用的服务器 prev = prev == -1 ? index : prev; //如果与上一次相等跳出循环(第一次直接跳出循环) if(prev == index){ continue; } else { //得到了符合逻辑的服务器 server = upList.get(index); //重新赋值 prev = index; } if (server == null) { Thread.yield(); continue; } if (server.isAlive()) { return (server); } // Shouldn't actually happen.. but must be transient or a bug. server = null; Thread.yield(); } return server; } protected int chooseRandomInt(int serverCount) { return ThreadLocalRandom.current().nextInt(serverCount); } @Override public Server choose(Object key) { return choose(getLoadBalancer(), key); } }