通过请求队列的方式来缓解高并发抢购（初探）
通过请求队列的方式来缓解高并发抢购（初探）
一、背景
在移动互联网高速发展的时代，各种电商平台的抢购业务变得越来越火爆，抢购业务所带来的高并发问题值得我们去探索，主要涉及的方面包括处理和响应速度、数据的一致性等。抢购开放的一瞬间，可能有成千上万的下订单请求发送到服务器去处理，如果只是简单的请求处理响应方式，不做任何处理，导致的结果很可能是很多客户很长时间得不到响应，根本不知道自己是否下订单成功，或者下订单的数量已经超过了商品的数量，这就导致了超发的问题。
二、设计思路
1、用户在下订单之前当然是先查询到这个商品，在这个查询的时候，将数据库中商品的剩余数量存到redis中；
2、服务器在一瞬间接到成千上万的下订单请求，在控制层没有直接处理请求数据，而是先根据redis中商品的剩余数量来判断，如果>0,就将请求放到请求队列中，否则直接响
应客户端“卖完了”；
3、考虑到数据的一致性，队列的容量就是商品的剩余数量，队列采用的是线程安全的队列LinkedBlockingQueue(单台服务器),然后通过新的线程异步处理这些请求，多台服务器的话,可以考虑使用消息队列MQ,单独用一台服务器去处理消息队列中的请求;
4、客户端发送订单请求之后，会收到响应，要么是剩余数量不足（卖完了），要么是请求已经被放到队列中,为下一步的轮询订单做准备;
5、如果响应状态是卖完了，直接提示客户，如果请求已经放入队列中，就可以根据用户id和商品id去轮询订单了；
三、实现步骤
说明：用java语言，springmvc框架+redis实现
1、准备工作，查询商品信息，将剩余数量同步到redis中
Jedis jedis = jedisPool.getResource();
BuyGood good=buyGoodService.getById(good_id);
jedis.set("residue"+good_id, good.getResidue()+"");
jedisPool.returnResource(jedis);
2、下订单的方法,下面直接展示代码，包括请求对象，控制层方法，请求处理线程类的具体实现
2.1 请求封装对象
public class BuyRequest {
private int good_id;//商品id
private int user_id;//用户ID
private int order_id;//订单id
private BuyOrders buyOrders;//订单信息
private int response_status;//0:未处理;1:正常;2:异常
public BuyOrders getBuyOrders() {
return buyOrders;
}
public void setBuyOrders(BuyOrders buyOrders) {
this.buyOrders = buyOrders;
}
public int getGood_id() {
return good_id;
}
public void setGood_id(int good_id) {
this.good_id = good_id;
}
public int getOrder_id() {
return order_id;
}
public void setOrder_id(int order_id) {
this.order_id = order_id;
}
public int getResponse_status() {
return response_status;
}
public void setResponse_status(int response_status) {
this.response_status = response_status;
}
public int getUser_id() {
return user_id;
}
public void setUser_id(int user_id) {
this.user_id = user_id;
}
}
2.2 处理请求的controller
@Controller
@RequestMapping("/buy")
public class BuyController {
private static BuyQueue<BuyRequest> buyqueue =null;//线程安全的请求队列
@RequestMapping("/addOrders.do")
@ResponseBody
public Object addOrders(BuyRequest buyrequest){
Map<String, Object> results = new HashMap<>();
Jedis jedis = jedisPool.getResource();
try {
//下订单之前，先获取商品的剩余数量
int residue = Integer.valueOf(jedis.get("residue"+buyrequest.getGood_id()));
if(residue<1){//如果剩余数量不足，直接响应客户端“卖完了”
results.put("msg", "卖完了");
results.put("done", false);
BaseLog.info("addOrders results="+JSON.toJSONString(results));
return results;
}
//如果还有剩余商品,就准备将请求放到请求队列中
if(buyqueue==null){//第一次初始化请求队列,队列的容量为当前的商品剩余数量
buyqueue=new BuyQueue<BuyRequest>(residue);
}
if(buyqueue.remainingCapacity()>0){//当队列的可用容量大于0时,将请求放到请求队列中
buyqueue.put(buyrequest);
}else{//当请求队列已满,本次请求不能处理,直接响应客户端提示请求队列已满
results.put("msg", "抢购队列已满，请稍候重试！");
results.put("done", false);
return results;
}
if(!DealQueueThread.excute){//如果线程类的当前执行标志为未执行,即空闲状态,通过线程池启动线程
DealQueueThread dealQueue = new DealQueueThread(buyqueue);
ThreadPoolUtil.pool.execute(dealQueue);
BaseLog.info("Thread.activeCount()="+Thread.activeCount());
}
//请求放入到队列中，即完成下单请求
results.put("done", true);
results.put("msg", "下订单成功");
} catch (Exception e) {
results.put("done", false);
results.put("msg", "下单失败");
BaseLog.info("addOrders results="+JSON.toJSONString(results));
BaseLog.error("addOrders",e);
}finally{
jedisPool.returnResource(jedis);
}
return results;
}
}
2.3 处理请求的线程类，线程类中涉及到的service代码就不必写出来了，你懂的
@Component
public class DealQueueThread implements Runnable {
private static DealQueueThread dealQueueThread;
@Autowired
BuyGoodService buyGoodService;
@Autowired
BuyOrdersService buyOrdersService;
@Autowired
JedisPool jedisPool;
private Jedis jedis;
private BuyQueue<BuyRequest> buyqueue;
public static boolean excute = false;//线程的默认执行标志为未执行,即空闲状态
public DealQueueThread() {
}
public DealQueueThread(BuyQueue<BuyRequest> buyqueue) {
this.buyqueue = buyqueue;
jedis = dealQueueThread.jedisPool.getResource();
}
@PostConstruct
public void init() {
dealQueueThread = this;
dealQueueThread.buyGoodService = this.buyGoodService;
dealQueueThread.buyOrdersService = this.buyOrdersService;
dealQueueThread.jedisPool = this.jedisPool;
}
@Override
public void run() {
try {
excute = true;//修改线程的默认执行标志为执行状态
//开始处理请求队列中的请求,按照队列的FIFO的规则,先处理先放入到队列中的请求
while (buyqueue != null && buyqueue.size() > 0) {
BuyRequest buyreq = buyqueue.take();//取出队列中的请求
dealWithQueue(buyreq);//处理请求
}
} catch (InterruptedException e) {
BaseLog.error("DealQueueThread:", e);
} finally {
excute = false;
}
}
public synchronized void dealWithQueue(BuyRequest buyreq) {
try {
//为了尽量确保数据的一致性,处理之前先从redis中获取当前抢购商品的剩余数量
int residue = Integer.valueOf(jedis.get("residue" + buyreq.getGood_id()));
if (residue < 1) {//如果没有剩余商品,就直接返回
buyreq.setResponse_status(3);
return;
}
//如果有剩余商品,先在redis中将剩余数量减一,再开始下订单
jedis.decr("residue" + buyreq.getGood_id());
//将数据库中将剩余数量减一,这一步处理可以在队列处理完成之后一次性更新剩余数量
dealQueueThread.buyGoodService.minusResidue(buyreq.getGood_id());
//处理请求,下订单
BuyOrders bo = new BuyOrders();
bo.setGood_id(buyreq.getGood_id());
bo.setUser_id(buyreq.getUser_id());
int order_id = dealQueueThread.buyOrdersService.insert(bo);
BuyOrders orders = dealQueueThread.buyOrdersService.getById(order_id);
buyreq.setOrder_id(order_id);//订单id
buyreq.setBuyOrders(orders);//订单信息
buyreq.setResponse_status(1);//处理完成状态
} catch (Exception e) {
buyreq.setResponse_status(2);//异常状态
BaseLog.error("DealQueueThread dealWithQueue:", e);
}
}
}
3、轮询订单
思路：查询订单和剩余数量，有以下三种情况：
1）查到订单，直接跳转到确认订单并支付的页面完成支付；
2）还没有查询到订单，但是剩余数量大于0，说明请求还在队列中，继续轮询；
3）没有查到订单，剩余数量等于或小于0，说明抢购失败了，直接响应客户抢购失败；
经过测试在并发量超过五百的时候会出现超发现象，程序还有待完善，欢迎大家给出自己的见解，谢谢！
