利用redis + lua解决抢红包高并发的问题

抢红包的需求分析

抢红包的场景有点像秒杀,但是要比秒杀简单点。
因为秒杀通常要和库存相关。而抢红包则可以允许有些红包没有被抢到,因为发红包的人不会有损失,没抢完的钱再退回给发红包的人即可。
另外像小米这样的抢购也要比淘宝的要简单,也是因为像小米这样是一个公司的,如果有少量没有抢到,则下次再抢,人工修复下数据是很简单的事。而像淘宝这么多商品,要是每一个都存在着修复数据的风险,那如果出故障了则很麻烦。

淘宝的专家丁奇有个文章有写到淘宝是如何应对秒杀的:《秒杀场景下MySQL的低效–原因和改进》

http://blog.nosqlfan.com/html/4209.html

基于redis的抢红包方案

下面介绍一种基于redis的抢红包方案。

把原始的红包称为大红包,拆分后的红包称为小红包。

1.小红包预先生成,插到数据库里,红包对应的用户ID是null。生成算法见另一篇blog:http://blog.csdn.net/hengyunabc/article/details/19177877

2.每个大红包对应两个redis队列,一个是未消费红包队列,另一个是已消费红包队列。开始时,把未抢的小红包全放到未消费红包队列里。

未消费红包队列里是json字符串,如{userId:'789', money:'300'}。

3.在redis中用一个map来过滤已抢到红包的用户。

4.抢红包时,先判断用户是否抢过红包,如果没有,则从未消费红包队列中取出一个小红包,再push到另一个已消费队列中,最后把用户ID放入去重的map中。

5.用一个单线程批量把已消费队列里的红包取出来,再批量update红包的用户ID到数据库里。

上面的流程是很清楚的,但是在第4步时,如果是用户快速点了两次,或者开了两个浏览器来抢红包,会不会有可能用户抢到了两个红包?

为了解决这个问题,采用了lua脚本方式,让第4步整个过程是原子性地执行。

下面是在redis上执行的Lua脚本:

 

[plain] view plain copy
 
  1. -- 函数:尝试获得红包,如果成功,则返回json字符串,如果不成功,则返回空  
  2. -- 参数:红包队列名, 已消费的队列名,去重的Map名,用户ID  
  3. -- 返回值:nil 或者 json字符串,包含用户ID:userId,红包ID:id,红包金额:money  
  4.   
  5. -- 如果用户已抢过红包,则返回nil  
  6. if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then  
  7.   return nil  
  8. else  
  9.   -- 先取出一个小红包  
  10.   local hongBao = redis.call('rpop', KEYS[1]);  
  11.   if hongBao then  
  12.     local x = cjson.decode(hongBao);  
  13.     -- 加入用户ID信息  
  14.     x['userId'] = KEYS[4];  
  15.     local re = cjson.encode(x);  
  16.     -- 把用户ID放到去重的set里  
  17.     redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);  
  18.     -- 把红包放到已消费队列里  
  19.     redis.call('lpush', KEYS[2], re);  
  20.     return re;  
  21.   end  
  22. end  
  23. return nil  


下面是测试代码:

 

 

[java] view plain copy
 
  1. public class TestEval {  
  2.     static String host = "localhost";  
  3.     static int honBaoCount = 1_0_0000;  
  4.       
  5.     static int threadCount = 20;  
  6.       
  7.     static String hongBaoList = "hongBaoList";  
  8.     static String hongBaoConsumedList = "hongBaoConsumedList";  
  9.     static String hongBaoConsumedMap = "hongBaoConsumedMap";  
  10.       
  11.     static Random random = new Random();  
  12.       
  13. //  -- 函数:尝试获得红包,如果成功,则返回json字符串,如果不成功,则返回空  
  14. //  -- 参数:红包队列名, 已消费的队列名,去重的Map名,用户ID  
  15. //  -- 返回值:nil 或者 json字符串,包含用户ID:userId,红包ID:id,红包金额:money  
  16.     static String tryGetHongBaoScript =   
  17. //          "local bConsumed = redis.call('hexists', KEYS[3], KEYS[4]);\n"  
  18. //          + "print('bConsumed:' ,bConsumed);\n"  
  19.             "if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then\n"  
  20.             + "return nil\n"  
  21.             + "else\n"  
  22.             + "local hongBao = redis.call('rpop', KEYS[1]);\n"  
  23. //          + "print('hongBao:', hongBao);\n"  
  24.             + "if hongBao then\n"  
  25.             + "local x = cjson.decode(hongBao);\n"  
  26.             + "x['userId'] = KEYS[4];\n"  
  27.             + "local re = cjson.encode(x);\n"  
  28.             + "redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);\n"  
  29.             + "redis.call('lpush', KEYS[2], re);\n"  
  30.             + "return re;\n"  
  31.             + "end\n"  
  32.             + "end\n"  
  33.             + "return nil";  
  34.     static StopWatch watch = new StopWatch();  
  35.       
  36.     public static void main(String[] args) throws InterruptedException {  
  37. //      testEval();  
  38.         generateTestData();  
  39.         testTryGetHongBao();  
  40.     }  
  41.       
  42.     static public void generateTestData() throws InterruptedException {  
  43.         Jedis jedis = new Jedis(host);  
  44.         jedis.flushAll();  
  45.         final CountDownLatch latch = new CountDownLatch(threadCount);  
  46.         for(int i = 0; i < threadCount; ++i) {  
  47.             final int temp = i;  
  48.             Thread thread = new Thread() {  
  49.                 public void run() {  
  50.                     Jedis jedis = new Jedis(host);  
  51.                     int per = honBaoCount/threadCount;  
  52.                     JSONObject object = new JSONObject();  
  53.                     for(int j = temp * per; j < (temp+1) * per; j++) {  
  54.                         object.put("id", j);  
  55.                         object.put("money", j);  
  56.                         jedis.lpush(hongBaoList, object.toJSONString());  
  57.                     }  
  58.                     latch.countDown();  
  59.                 }  
  60.             };  
  61.             thread.start();  
  62.         }  
  63.         latch.await();  
  64.     }  
  65.       
  66.     static public void testTryGetHongBao() throws InterruptedException {  
  67.         final CountDownLatch latch = new CountDownLatch(threadCount);  
  68.         System.err.println("start:" + System.currentTimeMillis()/1000);  
  69.         watch.start();  
  70.         for(int i = 0; i < threadCount; ++i) {  
  71.             final int temp = i;  
  72.             Thread thread = new Thread() {  
  73.                 public void run() {  
  74.                     Jedis jedis = new Jedis(host);  
  75.                     String sha = jedis.scriptLoad(tryGetHongBaoScript);  
  76.                     int j = honBaoCount/threadCount * temp;  
  77.                     while(true) {  
  78.                         Object object = jedis.eval(tryGetHongBaoScript, 4, hongBaoList, hongBaoConsumedList, hongBaoConsumedMap, "" + j);  
  79.                         j++;  
  80.                         if (object != null) {  
  81. //                          System.out.println("get hongBao:" + object);  
  82.                         }else {  
  83.                             //已经取完了  
  84.                             if(jedis.llen(hongBaoList) == 0)  
  85.                                 break;  
  86.                         }  
  87.                     }  
  88.                     latch.countDown();  
  89.                 }  
  90.             };  
  91.             thread.start();  
  92.         }  
  93.           
  94.         latch.await();  
  95.         watch.stop();  
  96.           
  97.         System.err.println("time:" + watch.getTotalTimeSeconds());  
  98.         System.err.println("speed:" + honBaoCount/watch.getTotalTimeSeconds());  
  99.         System.err.println("end:" + System.currentTimeMillis()/1000);  
  100.     }  
  101. }  


测试结果20个线程,每秒可以抢2.5万个,足以应付绝大部分的抢红包场景。

 

如果是真的应付不了,拆分到几个redis集群里,或者改为批量抢红包,也足够应付。

总结:

redis的抢红包方案,虽然在极端情况下(即redis挂掉)会丢失一秒的数据,但是却是一个扩展性很强,足以应付高并发的抢红包方案。

 

posted @ 2018-03-10 19:23  BarryW  阅读(488)  评论(0编辑  收藏  举报