微服务架构的高并发问题
准备工作
修改代码,模拟请求超时的代码
先写一个直接返回的代码
@RequestMapping(value = "/find/{id}",method = RequestMethod.GET) public String find(@PathVariable Long id) { return "查询成功"; }
在被调用端,加入线程睡眠
@RequestMapping(value = "/{id}",method = RequestMethod.GET) public Product findById(@PathVariable Long id) { try { TimeUnit.SECONDS.sleep(5); } catch (InterruptedException e) { e.printStackTrace(); } Product product = productService.findById(id); product.setProductName("访问的服务地址:"+ip + ":" + port); return product; }
然后再调用端修改配置,增大请求时间,不然直接会报错
feign: client: config: service-product: readTimeout: 6000 connectTimeout: 6000 loggerLevel: FULL
然后开始调用,发现find接口很快返回
性能工具Jmetter
Apache JMeter 是Apache组织开发的基于Java的压力测试工具。用于对软件做压力测试,它最初被设计
用于Web应用测试,但后来扩展到其他测试领域。 它可以用于测试静态和动态资源,例如静态文件、
Java 小服务程序、CGI 脚本、Java 对象、数据库、FTP 服务器, 等等。JMeter 可以用于对服务器、网
络或对象模拟巨大的负载,来自不同压力类别下测试它们的强度和分析整体性能。另外JMeter能够对应
用程序做功能/回归测试,通过创建带有断言的脚本来验证你的程序返回了你期望的结果。为了最大限
度的灵活性,JMeter允许使用正则表达式创建断言。
安装Jmetter
Jmetter安装十分简单,使用资料中的 apache -jmeter-2.13.zip 完整压缩包,解压找到安装目录下
bin/jmeter.bat 已管理员身份启动即可。
配置Jmetter
(1)创建新的测试计划
( 2)测试计划下创建发起请求的线程组
可以配置请求的线程数,以及每个请求发送的请求次数
(3)创建http请求模板
( 4)配置测试的接口信息
开始测试,发现请求直接返回的接口都卡住了。
问题分析
在微服务架构中,我们将业务拆分成一个个的服务,服务与服务之间可以相互调用,由于网络原因或者
自身的原因,服务并不能保证服务的100%可用,如果单个服务出现问题,调用这个服务就会出现网络
延迟,此时若有大量的网络涌入,会形成任务累计,导致服务瘫痪。
在SpringBoot程序中,默认使用内置tomcat作为web服务器。单tomcat支持最大的并发请求是有限
的,如果某一接口阻塞,待执行的任务积压越来越多,那么势必会影响其他接口的调用。
线程池的形式实现服务隔离
( 1) 配置坐标
为了方便实现线以线程池的形式完成资源隔离,需要引入如下依赖
<!--hystrix--> <dependency> <groupId>com.netflix.hystrix</groupId> <artifactId>hystrix-metrics-event-stream</artifactId> <version>1.5.12</version> </dependency> <dependency> <groupId>com.netflix.hystrix</groupId> <artifactId>hystrix-javanica</artifactId> <version>1.5.12</version> </dependency>
( 2) 配置线程池
配置HystrixCommand接口的实现类,再实现类中可以对线程池进行配置
package com.topcheer.order.command; import com.netflix.hystrix.*; import com.topcheer.order.entity.Product; import org.springframework.web.client.RestTemplate; public class OrderCommand extends HystrixCommand<Product> { private RestTemplate restTemplate; private Long id; public OrderCommand(RestTemplate restTemplate, Long id) { super(setter()); this.restTemplate = restTemplate; this.id = id; } private static Setter setter() { // 服务分组 HystrixCommandGroupKey groupKey = HystrixCommandGroupKey.Factory.asKey("order_product"); // 服务标识 HystrixCommandKey commandKey = HystrixCommandKey.Factory.asKey("product"); // 线程池名称 HystrixThreadPoolKey threadPoolKey = HystrixThreadPoolKey.Factory.asKey("order_product_pool"); /** * 线程池配置 * withCoreSize : 线程池大小为10 * withKeepAliveTimeMinutes: 线程存活时间15秒 * withQueueSizeRejectionThreshold :队列等待的阈值为100,超过100执行拒绝策略 */ HystrixThreadPoolProperties.Setter threadPoolProperties = HystrixThreadPoolProperties.Setter().withCoreSize(50) .withKeepAliveTimeMinutes(15).withQueueSizeRejectionThreshold(100); // 命令属性配置Hystrix 开启超时 HystrixCommandProperties.Setter commandProperties = HystrixCommandProperties.Setter() // 采用线程池方式实现服务隔离 .withExecutionIsolationStrategy(HystrixCommandProperties.ExecutionIsolationStrategy.THREAD) // 禁止 .withExecutionTimeoutEnabled(false); return Setter.withGroupKey(groupKey).andCommandKey(commandKey).andThreadPoolKey(threadPoolKey) .andThreadPoolPropertiesDefaults(threadPoolProperties).andCommandPropertiesDefaults(commandProperties); } @Override protected Product run() throws Exception { System.out.println(Thread.currentThread().getName()); return restTemplate.getForObject("http://service-product/product/"+id, Product.class); } /** * 降级方法 */ @Override protected Product getFallback(){ Product product = new Product(); product.setProductName("不好意思,出错了"); return product; } }
3) 配置调用
修改 OrderController ,使用自定义的OrderCommand完成调用
@RequestMapping(value = "/buy/{id}",method = RequestMethod.GET) public Product findById(@PathVariable Long id) { return new OrderCommand(restTemplate,id).execute(); }
配置以后就不卡了,这就引出了服务熔断Hystrix