粗谈分布式ID生成方案

粗谈分布式ID生成方案

粗谈分布式ID生成方案
2016-04-24 中间件架构
废话连篇
ID作为业务的唯一标识,在数据设计中屡见不鲜,例如:
  • 商品 —— product_id
  • 订单 —— order_id
  • 消息 —— message_id
这些标识往往就是数据库的主键,MySQL会在主键是建立聚簇索引,这个索引直接指向数据地址。相比普通索引指向聚簇索引,减少了一次索引查询,速度很快。消息、订单类似业务一般会有按照时间倒序查询数据的需求,一种做法是在时间列上建立索引,更好的是依赖ID本身的插入有序性。所以,分布式ID需要满足两个核心条件:
  • 全局唯一
  • 时间趋势有序
可能有人会说了,直接用MySQL的auto_increment不就行了么。在创业初期的时候我也会选择这个方案,简单、高效、快速——创业公司还是得快速迭代,尽快出产品,而且产品经常变,花太多时间搞出的牛逼架构说不定不太用得上,浪费了宝贵的时间。但这个方案是存在一些问题的:
  • 影响并行插入——B记录依赖A记录的主键,需要等到A记录插入成功,拿到A.id,才能插入B记录
  • 数据恢复难度大——数据误删或者丢失后,由于日志中没有ID,不能直接确定数据关联性
  • 影响分库分表——由于ID要插入后才知道,不能根据业务的主键进行分库分表
所以,在业务稳定后,一定要抽出时间来还早期的技术债务。
常见方案
使用数据库的auto_increment来生成唯一ID
优点
  • 简单,使用已有功能,开发量小
  • ID步长固定
缺点
  • 写入单点,非高可用
  • 即使按照不同auto_increment起点扩展多个主库,虽然提高了可用性,但却不能保证ID的严格有序
  • 每次都需要访问数据库,容易到达性能天花板
批量拉取ID,逐一分配
这种方案也是将ID数据存入数据库,ID服务每次从数据库中拉取N个ID,并将当前已用ID最大值更新为原始数据+N,ID服务每次接到ID生成请求时就从这N个ID中依次返回。
优点
  • 批量获取,不用每次访问数据库,数据库压力小
缺点
  • 整个服务还是单点
  • 服务宕机重启会造成ID不连续
  • 无法水平扩展
改进
增加一套备用服务,主服务挂了漂移到备用服务上,可以采用vip + keepalived或者增加proxy。
uuid
优点
  • 本地生成ID,没有单点问题,没有性能瓶颈
缺点
  • 不能保证递增有序
  • 长度过长,作为主键性能低
类snowflake算法
snowflake是twitter开源的分布式ID生成算法,其核心思想是:一个long型的ID,使用其中41bit作为毫秒数,10bit作为机器编号,12bit作为毫秒内序列号。这个算法单机每秒内理论上最多可以生成1000*(2^12),也就是400W的ID,完全能满足业务的需求。
借鉴snowflake的思想,结合各公司的业务逻辑和并发量,可以实现自己的分布式ID生成算法。
优点
  • 时间在高位,趋势递增
  • 实现简单,不依赖其它服务,方便扩展
缺点
  • 没有全局时钟,单机绝对有序,但从整个集群来看,是趋势有序的
注意事项
  • 由于ID常作为分库分表的标识,所以需要这些ID有一定的随机性,不至于分库后的数据不均匀,可以在每个毫秒开始时序列号不从1开始,二是从0-9中的任意一个开始
求指教
  • 基于Snowflake的思想,42bit作为毫秒数,12bit作为服务编号(ip末位8bit + 设置的进程标识4bit),10bit作为序列号,基于Golang实现了一个简单的id生成器,目前单进程,刚好能跑起来,会持续改进。项目托管在https://github.com/sanpili/snowflake上,本人是go新手,有何使用不当的地方,欢迎指教和PR。
???企企csvcsvcsvcsvcsvcsv
posted @ 2018-08-16 18:40  micwin  阅读(94)  评论(0编辑  收藏  举报