秒杀项目之——通过令牌发放机制,控制秒杀大闸以及队列泄洪

秒杀项目用于处理高并发情况,我们采取发放令牌机制,根据用户的token、商品id、活动商品id和一串uuid产生一个令牌存入redis中

同时引入了秒杀大闸,目的是流量控制,比如当前活动商品只有100件,我们就发放500个令牌,秒杀前会先发放令牌,令牌发放完则把后来的用户挡在这一层之外,控制了流量

获取令牌后会对比redis中用户产生的令牌,对比成功才可以购买商品

 

首先,获取活动商品详情时就要根据库存设置大闸数量,我们设置大闸为库存的5倍

 

 

在发放令牌时就要根据大闸数量判断要不要发放

 

 

 

这样一来就减轻了巨大访问流量带来的压力

 

但是尽管如此,我们可以试想,如果一个网站做秒杀活动,有10个商品秒杀,每个有1000件,那么就要发放50000个令牌,这样的数量仍然很大,所以我们采取了队列泄洪来解决此问题

 

什么是队列化泄洪呢,就好比很多人同时进一个门,门很小,人很多,就可以排成队,假如一次能进20个人,就20个人一波,一波一波的进

同理,队列化泄洪就是把访问的用户分成批次,来减轻同时巨大的访问量造成的压力,一般分为令牌桶算法和漏桶算法,我们一般用令牌桶算法,那么怎么实现呢?

队列化泄洪——ExecutorService, 通过这个可以从队列中每次获取一定数据量的请求进行处理,处理的速度取决于下游的窗口的处理速度。

 

@Autowired

private ExecutorService executorService;

@PostConstruct

    public void init(){

        executorService = Executors.newFixedThreadPool(20);

 

}

   //封装下单请求

    @RequestMapping(value = "/createorder",method = {RequestMethod.POST},consumes={CONTENT_TYPE_FORMED})

    @ResponseBody

    public CommonReturnType createOrder(@RequestParam(name="itemId")Integer itemId,

                                        @RequestParam(name="amount")Integer amount,

                                        @RequestParam(name="promoId",required = false)Integer promoId,

                                        @RequestParam(name="promoToken",required = false)String promoToken) throws BusinessException {

     -------------省略验证登录、令牌等信息

        //同步调用线程池的submit方法

        //拥塞窗口为20的等待队列,用来队列化泄洪

        Future<Object> future = executorService.submit(new Callable<Object>() {

            @Override

            public Object call() throws Exception {

                //加入库存流水init状态

                String stockLogId = itemService.initStockLog(itemId,amount);

                //再去完成对应的下单事务型消息机制

                if(!mqProducer.transactionAsyncReduceStock(userModel.getId(),itemId,promoId,amount,stockLogId)){

                    throw new BusinessException(EmBusinessError.UNKNOWN_ERROR,"下单失败");

                }

                return null;

            }

        });

 

        try {

            future.get();

        } catch (InterruptedException e) {

            throw new BusinessException(EmBusinessError.UNKNOWN_ERROR);

        } catch (ExecutionException e) {

            throw new BusinessException(EmBusinessError.UNKNOWN_ERROR);

        }

        return CommonReturnType.create(null);

    }

 

 

为了防止服务器承受不确定的洪峰流量,可以采取限流的策略--  单机限流,负载均衡还不错的情况下,效果还是不错的,每次访问一个接口,先判断当前的访问量是否达到设定值,如果达到了直接回绝。-- Guava Limiter,   设定的访问值根据我们压测的结果设定的--300qps    

集群限流:依赖redis或者其他的中间件技术做统一的计数器,往往会产生性能瓶颈

单机限流:负载均衡的前提下,单机限流的效果要好

 我们使用guava limiter 也就是单机限流,限制单个接口的流量

 

private RateLimiter orderCreateRateLimiter;

 

    @PostConstruct

    public void init(){

        executorService = Executors.newFixedThreadPool(20);

 

        orderCreateRateLimiter = RateLimiter.create(300);

 

}

 

 

在下单之前校验

if(!orderCreateRateLimiter.tryAcquire()){

            throw new BusinessException(EmBusinessError.RATELIMIT);

 }

 

  

posted @ 2019-10-19 15:54  BUG不报错?  阅读(1977)  评论(0编辑  收藏  举报