Hystrix断路器
服务雪崩
什么是雪崩?
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B 和微服务C又调用其他的微 服务,这就是所谓的 “扇出”、如果扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A 的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的 “雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几秒中内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张, 导致整个系统发生更多的级联故障,这些都表示需要对故障和延迟进行隔离和管理,以便单个依赖关系 的失败,不能取消整个应用程序或系统。 我们需要 ·弃车保帅·
简单来说就是:在多个微服务之间调用的时候,如果有一个服务出现问题了,就会卡在那里,并且占有很多资源,进而引起系统的崩溃。
什么是Hystrix
Hystrix是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时,异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器” 本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控(类似熔断保险丝),向调用方返回一个服务预期的,可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方法无法处理的异常,这样就可以保证了服务调用方的线程不会被长时间,不必要的占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩.
Hystrix能干什么
服务降级
服务熔断
服务限流
接近实时的监控
....
官网资料https://github.com/Netflix/Hystrix/wiki
服务熔断
熔断是什么
熔断机制是对应雪崩效应的一种微服务链路保护机制。
当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。当检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况, 当失败的调用到一定阈值,缺省是5秒内20次调用失败就会启动熔断机制。
熔断机制的注解是@HystrixCommand.
参考springcloud-provider-dept-8001
新建springcloud-provider-dept-hystrix-8001
将之前8001的所有东西拷贝一份
pom添加Hystrix的依赖
<!--Hystrix--> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-hystrix</artifactId> <version>1.4.7.RELEASE</version> </dependency>
修改application.yml的eureka实例的id
#eureka配置 eureka: client: service-url: defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/ instance: instance-id: springcloud-provider-dept-8001 # 重点,和client平级 prefer-ip-address: true #true表示访问路径可以显示ip地址
修改DeptController
@HystrixCommand("报错后执行的方法")报异常后如何处理
并且编写 processHystrix_Get 方法
@RestController @RequestMapping("/dept") public class DeptController{ @Autowired DeptService deptservice; @GetMapping("/get/{id}") @HystrixCommand(fallbackMethod = "processHystrix_Get") //一旦调用服务方法失败并抛出了错误信息后 // 会自动调用HystrixCommand标注好的fallbackMethod调用类中指定方法 public Dept get(@PathVariable("id") Long id) { Dept dept = deptservice.queryById(id); if(dept==null){ throw new RuntimeException("该id:"+id+"没有对应的的信息"); } return dept; } public Dept processHystrix_Get(@PathVariable("id") Long id){ return new Dept().setDeptno(id) .setDname("该id:"+id+"没有对应的信息,null--@HystrixCommand") .setDb_source("no this database in MySQL"); } }
修改主启动类添加新注解 @EnableCircuitBreaker
@SpringBootApplication @EnableEurekaClient // 本服务启动之后会自动注册进Eureka中! @EnableDiscoveryClient //发现服务 @EnableCircuitBreaker //对hystrix 熔断机制的支持 【======new=======】 public class DeptProviderHystrix8001 { public static void main(String[] args){ SpringApplication.run(DeptProviderHystrix8001.class,args); } @Bean public ServletRegistrationBean hystrixMetricsStreamServlet() { ServletRegistrationBean registration = new ServletRegistrationBean(new HystrixMetricsStreamServlet()); registration.addUrlMappings("/actuator/hystrix.stream"); return registration; } }
测试:
1、启动Eureka集群
2、启动主启动类 DeptProviderHystrix8001
3、启动客户端 springcloud-consumer-dept-80
4、访问 http://localhost/consumer/dept/get/111 (我数据库中没有id==111的数据)
服务降级
服务是什么
整体资源快不够了,忍痛将某些服务先关掉,待渡过难关,再开启回来。
服务降级处理是在客户端实现完成的,与服务端没有关系
修改springcloud-api工程,根据已经有的DeptClientService接口新建一个实现FallbackFactory接口的类DeptClientServiceFallbackFactor
【注意:这个类上需要@Component注解!!!】不然放不到Bean里
@Component public class DeptClientServiceFallbackFactory implements FallbackFactory { @Override public DeptClientService create(Throwable throwable) { return new DeptClientService() { @Override public Dept queryById(Long id) { return new Dept().setDeptno(id) .setDname("该id:"+id+"没有对应的信息,Consumer客户端提供的降级信息,此刻服务Provider已经关闭") .setDb_source("no this database in MySQL"); } @Override public List<Dept> queryAll() { return null; } @Override public boolean addDept(Dept dept) { return false; } }; } }
并且修改DeptClientService接口在注解 @FeignClient中添加fallbackFactory属性值
@Component @FeignClient(value="SPRINGCLOUD-PROVIDER-DEPT",fallbackFactory = DeptClientServiceFallbackFactory.class) public interface DeptClientService { .... }
修改springcloud-consumer-fegin-dept-80的application.yml添加hystrix配置
server: port: 80 eureka: client: register-with-eureka: false service-url: defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/ feign: hystrix: enabled: true
测试
1. 启动eureka集群
2. 启动 springcloud-provider-dept-hystrix-8001
3. 启动 springcloud-consumer-dept-feign-80
4. 正常访问测试 http://localhost/consumer/dept/get/1
5. 故意关闭微服务启动 springcloud-provider-dept-hystrix-8001
6. 客户端自己调用提示
此时服务端provider已经down了,但是我们做了服务降级处理,让客户端在服务端不可用时 也会获得提示信息而不会挂起耗死服务器。
小结:
服务熔断:
“熔断器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控,某个异常条件被触发,直接熔断整个服务。向调用方法返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间的等待或者抛出吊牌用方法无法处理的异常,就保证了服务调用方的线程不会被长时间占用,避免故障在分布式系统中蔓延,乃至雪崩。
一般是某个服务故障或者异常引起,类似现实世界中的 “保险丝” , 当某个异常条件被触发, 直接熔断整个服务,而不是一直等到此服务超时!
服务降级:
服务降级处理是在客户端实现完成的,与服务端没有关系。
当某个服务熔断或关闭之后,服务将不再被调用,此时客户端我们可准备一个FallbackFactory,返回一个默认的值(缺省值)。
整体资源快不够了,忍痛将某些服务单元先关掉,关闭后还要返回一些可处理的备选方法,待渡服务解决完问题,再开启回来,即恢复正常操作。
服务监控 hystrixDashboard
除了隔离依赖服务的调用以外,Hystrix还提供了准实时的调用监控(Hystrix Dashboard),Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息,并以统计报表和图形的形式展示给用户,包括每秒 执行多少请求,多少成功,多少失败等等。
Netflix通过hystrix-metrics-event-stream项目实现了对以上指标的监控,SpringCloud也提供了Hystrix Dashboard的整合,对监控内容转化成可视化界面!
新建工程springcloud-consumer-hystrix-dashboard-9001
Pom.xml 复制之前80项目的pom文件,新增以下依赖!
<!--Hystrix--> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-hystrix</artifactId> <version>1.4.7.RELEASE</version> </dependency> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-hystrix-dashboard</artifactId> <version>1.4.7.RELEASE</version> </dependency>
application.yaml配置
server: port: 9001
主启动类改名 并添加 @EnableHystrixDashboard 注解
@EnableHystrixDashboard @SpringBootApplication public class DeptConsumerDashBoardApp9001 { public static void main(String[] args) { SpringApplication.run(DeptConsumerDashBoardApp9001.class,args); } }
所有的Provider微服务提供类(8001/8002/8003) 都需要监控依赖配置
<!--actuator监控信息完善--> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-actuator</artifactId> </dependency>
在 springcloud-provider-dept-hystrix-8001 启动类中增加一个bean
@SpringBootApplication @EnableEurekaClient // 本服务启动之后会自动注册进Eureka中! @EnableDiscoveryClient //发现服务 @EnableCircuitBreaker //对hystrix 熔断机制的支持 【==========new=======】 public class DeptProviderHystrix8001 { public static void main(String[] args){ SpringApplication.run(DeptProviderHystrix8001.class,args); } @Bean public ServletRegistrationBean hystrixMetricsStreamServlet() { ServletRegistrationBean registration = new ServletRegistrationBean(new HystrixMetricsStreamServlet()); registration.addUrlMappings("/actuator/hystrix.stream"); return registration; } }
测试
启动springcloud-consumer-hystrix-dashboard-9001该微服务监控消费端
http://localhost:8001/dept/get/1
http://localhost:9001/hystrix
点击按钮,进入
http://localhost:8001/dept/get/1多刷新几次观察上图的跳动
、
整图说明
7色
一圈
实心圆:公有两种含义,他通过颜色的变化代表了实例的健康程度
它的健康程度从绿色<黄色<橙色<红色 递减
该实心圆除了颜色的变化之外,它的大小也会根据实例的请求流量发生变化,流量越大,该实心圆就越大,所以通过该实心圆的展示,就可以在大量的实例中快速发现故障 实例和高压力实例。
一线
曲线:用来记录2分钟内流量的相对变化,可以通过它来观察到流量的上升和下降趋势!