全局唯一Id:雪花算法
分布式系统中,有一些需要使用全局唯一ID的场景,这种时候为了防止ID冲突可以使用36位的UUID,但是UUID有一些缺点,首先他相对比较长,另外UUID一般是无序的。
有些时候我们希望能使用一种简单一些的ID,并且希望ID能够按照时间有序生成。
而twitter的SnowFlake解决了这种需求,最初Twitter把存储系统从MySQL迁移到Cassandra,因为Cassandra没有顺序ID生成机制,所以开发了这样一套全局唯一ID生成服务。
原理
Twitter的雪花算法SnowFlake,使用Java语言实现。
SnowFlake算法产生的ID是一个64位的整型,结构如下(每一部分用“-”符号分隔):
0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000
1位标识部分,在java中由于long的最高位是符号位,正数是0,负数是1,一般生成的ID为正数,所以为0;
41位时间戳部分,这个是毫秒级的时间,一般实现上不会存储当前的时间戳,而是时间戳的差值(当前时间-固定的开始时间),这样可以使产生的ID从更小值开始;41位的时间戳可以使用69年,(1L << 41) / (1000L 60 60 24 365) = 69年;
10位节点部分,Twitter实现中使用前5位作为数据中心标识,后5位作为机器标识,可以部署1024个节点;
12位序列号部分,支持同一毫秒内同一个节点可以生成4096个ID;
SnowFlake算法生成的ID大致上是按照时间递增的,用在分布式系统中时,需要注意数据中心标识和机器标识必须唯一,这样就能保证每个节点生成的ID都是唯一的。或许我们不一定都需要像上面那样使用5位作为数据中心标识,5位作为机器标识,可以根据我们业务的需要,灵活分配节点部分,如:若不需要数据中心,完全可以使用全部10位作为机器标识;若数据中心不多,也可以只使用3位作为数据中心,7位作为机器标识。
snowflake生成的ID整体上按照时间自增排序,并且整个分布式系统内不会产生ID碰撞(由datacenter和workerId作区分),并且效率较高。据说:snowflake每秒能够产生26万个ID。
源码
1 package com.hjp.labs; 2 3 /** 4 * Twitter的分布式自增ID雪花算法snowflake 5 * @auther huang jianping 6 * @date 2019/6/19 10:36 7 */ 8 public class SnowFlake { 9 10 /** 11 * 起始的时间戳 12 */ 13 private final static long START_STMP = 1480166465631L; 14 15 /** 16 * 每一部分占用的位数 17 */ 18 private final static long SEQUENCE_BIT = 12; //序列号占用的位数 19 private final static long MACHINE_BIT = 5; //机器标识占用的位数 20 private final static long DATACENTER_BIT = 5;//数据中心占用的位数 21 22 /** 23 * 每一部分的最大值 24 */ 25 private final static long MAX_DATACENTER_NUM = -1L ^ (-1L << DATACENTER_BIT); 26 private final static long MAX_MACHINE_NUM = -1L ^ (-1L << MACHINE_BIT); 27 private final static long MAX_SEQUENCE = -1L ^ (-1L << SEQUENCE_BIT); 28 29 /** 30 * 每一部分向左的位移 31 */ 32 private final static long MACHINE_LEFT = SEQUENCE_BIT; 33 private final static long DATACENTER_LEFT = SEQUENCE_BIT + MACHINE_BIT; 34 private final static long TIMESTMP_LEFT = DATACENTER_LEFT + DATACENTER_BIT; 35 36 private long datacenterId; //数据中心 37 private long machineId; //机器标识 38 private long sequence = 0L; //序列号 39 private long lastStmp = -1L;//上一次时间戳 40 41 public SnowFlake(long datacenterId, long machineId) { 42 if (datacenterId > MAX_DATACENTER_NUM || datacenterId < 0) { 43 throw new IllegalArgumentException("datacenterId can't be greater than MAX_DATACENTER_NUM or less than 0"); 44 } 45 if (machineId > MAX_MACHINE_NUM || machineId < 0) { 46 throw new IllegalArgumentException("machineId can't be greater than MAX_MACHINE_NUM or less than 0"); 47 } 48 this.datacenterId = datacenterId; 49 this.machineId = machineId; 50 } 51 52 /** 53 * 产生下一个ID 54 * 55 * @return 56 */ 57 public synchronized long nextId() { 58 long currStmp = getNewstmp(); 59 if (currStmp < lastStmp) { 60 throw new RuntimeException("Clock moved backwards. Refusing to generate id"); 61 } 62 63 if (currStmp == lastStmp) { 64 //相同毫秒内,序列号自增 65 sequence = (sequence + 1) & MAX_SEQUENCE; 66 //同一毫秒的序列数已经达到最大 67 if (sequence == 0L) { 68 currStmp = getNextMill(); 69 } 70 } else { 71 //不同毫秒内,序列号置为0 72 sequence = 0L; 73 } 74 75 lastStmp = currStmp; 76 77 return (currStmp - START_STMP) << TIMESTMP_LEFT //时间戳部分 78 | datacenterId << DATACENTER_LEFT //数据中心部分 79 | machineId << MACHINE_LEFT //机器标识部分 80 | sequence; //序列号部分 81 } 82 83 private long getNextMill() { 84 long mill = getNewstmp(); 85 while (mill <= lastStmp) { 86 mill = getNewstmp(); 87 } 88 return mill; 89 } 90 91 private long getNewstmp() { 92 return System.currentTimeMillis(); 93 } 94 95 public static void main(String[] args) { 96 SnowFlake snowFlake = new SnowFlake(1, 1); 97 98 long start = System.currentTimeMillis(); 99 for (int i = 0; i < 1000000; i++) { 100 System.out.println(snowFlake.nextId()); 101 } 102 103 System.out.println(System.currentTimeMillis() - start); 104 105 106 } 107 }