eureka服务注册与负载均衡原理
一、首先第一步,搭建eureka-server (注册中心服务端),这是一个独立的微服务
1、在微服务的父工程下,新建一个maven项目作为eureka服务端的项目
2、在项目中的pom文件中引入eureka服务端的依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
3、编写启动类,注意启动类上要加上@EnableEurekaServer注解,开启eureka的注册中心功能
@SpringBootApplication
@EnableEurekaServer
public class EurekaApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaApplication.class, args);
}
}
4、在application.yml配置文件中书写配置
包括:配置服务端口号、配置服务名称、配置eureka的地址信息(eureka自己也是一个微服务,他会把自己也注册到eureka中)
server:
port: 10086
spring:
application:
name: eureka-server
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:10086/eureka
5、接下来就可以启动项目啦,到浏览器中访问地址 http://127.0.0.1:10086 出现eureka的图形界面就成功了
二、服务注册(将拆分的所有微服务注册到eureka中,让eureka来进行管理)
1、引入客户端依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
2、编写application.yml配置文件
配置信息包括:同样包括三个基本的配置: 服务端口、服务名称、服务地址信息
spring:
application:
name: userservice
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:10086/eureka
三、服务拉取和负载均衡
之前我们服务调用服务是这么做的,服务请求地址是写死的,这样一个服务有多个实例的话就无法实现负载均衡了
@Resource
private RestTemplate restTemplate;
@GetMapping("{orderId}")
public Order queryOrderByUserId(@PathVariable("orderId") Long orderId) {
// 根据id查询订单并返回
Order order = orderService.queryOrderById(orderId);
//定义请求的路径
String url = "http://127.0.0.1:8081/user/"+order.getUserId();
//发送get请求
User user = restTemplate.getForObject(url, User.class);
order.setUser(user);
return order;
}
现在我们将请求地址进行如下改写,用服务名称代替IP地址和端口号
String url = "http://userservice/user/"+order.getUserId();
服务提供者如果有多个实例的话,还需要实现负载均衡,在restTemplate组件上添加一个 @LoadBalanced 注解即可实现
完成此操作后,spring会自动帮助我们从eureka-server端,根据userservice这个服务名称,获取实例列表,而后完成负载均衡。
@Bean
@LoadBalanced
public RestTemplate restTemplate(){
return new RestTemplate();
}
四、负载均衡的实现原理细节
1、问题:我们添加了@LoadBalanced注解,即可实现负载均衡功能,这是什么原理呢?
2、springcloud底层利用了一个名为Ribbon的组件来实现的负载均衡的功能
3、源码跟踪:核心类
5、基本流程如下:( 这里模拟订单服务需要请求用户服务 )
-
拦截我们的RestTemplate请求http://userservice/user/1
-
RibbonLoadBalancerClient会从请求url中获取服务名称,也就是userservice
-
DynamicServerListLoadBalancer根据userservice到eureka拉取服务列表
-
eureka返回列表,localhost:8081、localhost:8082
-
IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
-
RibbonLoadBalancerClient修改请求地址,用localhost:8081替代userservice,得到http://localhost:8081/user/1,发起真实请求
6、上面提到一个负载均衡规则概念:那到底有哪些负载均衡的规则呢,如何实现的呢?我们可以自定义规则吗?
负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:
6.1 不同规则的含义如下所示:
规则描述 | |
---|---|
RoundRobinRule | 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 |
AvailabilityFilteringRule | 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置。 |
WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 |
ZoneAvoidanceRule (默认的) |
以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 |
BestAvailableRule | 忽略那些短路的服务器,并选择并发数较低的服务器。 |
RandomRule | 随机选择一个可用的服务器。 |
RetryRule | 重试机制的选择逻辑 |
6.2 自定义负载均衡策略
通过定义IRule实现可以修改负载均衡的规则,有两种方式:
方式一:在配置类中注册一个IRule组件,注册需要的规则,这种规则全局生效
@Bean
public IRule randomRule(){
return new RandomRule();
}
方式二: 在服务消费者的application.yml配置文件中添加如下配置:(具体针对某一个服务生效)
userservice: #给某个微服务配置负载均衡规则,这里是是服务名称
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #负载均衡规则,这里是随机访问
7、饥饿加载
Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。
而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过在服务消费者配置文件中添加下面配置开启饥饿加载:
ribbon:
eager-load:
enabled: true
clients: userservice #服务提供者的服务名称