摘要: Overview Pub-Sub module 顾名思义是一个发布订阅相关的模块。Pub-Sub module 为对象存储的变更事件提供一种发布-订阅机制。而发布-订阅架构本身应用非常广泛,如公有云Google Cloud,AWS 的PubSub 服务,Redis 的发布订阅机制等等,发布订阅架构提 阅读全文
posted @ 2019-12-31 18:51 TuringM 阅读(1527) 评论(0) 推荐(0) 编辑
摘要: Overview RGW 中三个基本概念:user, bucket, object。通过分析RGW data layout,可以清楚对象存储的三个基本概念是怎样在RGW 中实现的。 RGW 中数据分三种类型: data: 每个RGW object 会保存在一个或多个Rados object(s) m 阅读全文
posted @ 2019-11-21 21:31 TuringM 阅读(4490) 评论(0) 推荐(0) 编辑
摘要: Overview RocksDB 中有三个基本的数据结构概念:memtable, sstfile 和 logfile memtable 是个内存数据结构,新写入会插入memtable 切回选择性地写入logfile。 logfile 是一个顺序写入磁盘的文件。 当memtable 写满后,会flus 阅读全文
posted @ 2019-09-03 20:58 TuringM 阅读(1902) 评论(0) 推荐(0) 编辑
摘要: Background on http frontends -civetweb frontend --thread per connection, requires a lot of threads qos or priority queuing would block frontend thread 阅读全文
posted @ 2019-08-30 19:31 TuringM 阅读(763) 评论(0) 推荐(0) 编辑
摘要: 一、背景和问题 默认情况下只有当单个bucket承载的object数量过多,导致omap过大会导致性能问题。在L 版之前需要线下reshard,从L 版开始支持线上自动reshard,默认rgw dynamic resharding 是开启的。但是在开启了Multisite的情况下,一旦对bucke 阅读全文
posted @ 2019-08-28 16:04 TuringM 阅读(2003) 评论(0) 推荐(0) 编辑
摘要: 1. PG介绍 PG, Placement Groups。CRUSH先将数据分解成一组对象,然后根据对象名称、复制级别和系统中的PG数等信息执行散列操作,再将结果生成PG ID。可以将PG看做一个逻辑容器,这个容器包含多个对象,同时这个逻辑对象映射之多个OSD上。 如果没有PG,在成千上万个OSD上 阅读全文
posted @ 2018-11-22 19:59 TuringM 阅读(9056) 评论(0) 推荐(0) 编辑
摘要: 一、Ceph整体架构及RGW在Ceph中的位置 1.Ceph的整体架构 Ceph是一个统一的、分布式的的存储系统,具有优秀的性能、可靠性和可扩展性。Ceph支持对象存储(RADOSGW)、块存储(RBD)和文件存储(CephFS)。一个Ceph存储集群至少包含一个Ceph monitor、Ceph 阅读全文
posted @ 2018-08-08 20:36 TuringM 阅读(13951) 评论(1) 推荐(0) 编辑
摘要: 一、什么是拜占庭将军问题 拜占庭将军问题(Byzantine Generals Problem,是由莱斯利·兰波特在其同名论文[1]中提出的分布式对等网络通信容错问题。在分布式计算中,不同的计算机通过通讯交换信息达成共识而按照同一套协作策略行动。但有时候,系统中的成员计算机可能出错而发送错误的信息, 阅读全文
posted @ 2018-07-02 00:02 TuringM 阅读(2959) 评论(0) 推荐(0) 编辑
摘要: 1 分布式系统中是否需要应用层心跳? 在采用TCP连接作为进程间通信方式的分布式系统中。当任意一方进程意外退出的时候,对方能及时得到连接断开的通知,操作系统会关闭进程中使用的TCP scoket,会往对方发送FIN分节。keepalive并不是TCP协议规范的一部分,但在几乎所有的TCP/IP协议栈 阅读全文
posted @ 2018-07-01 22:06 TuringM 阅读(2281) 评论(0) 推荐(0) 编辑
摘要: [TOC] CTP交易部分接口说明 一、请求接口字段说明(未说明则均为必填字段) 1. 登录:acct_login_id = 5000 broker_id:经纪公司代码 investor_id:投资者代码 pwd:密码 1.1 说明 若登陆成功后,会返回FrontID 、SessionID和MaxO 阅读全文
posted @ 2018-02-11 18:59 TuringM 阅读(12757) 评论(1) 推荐(4) 编辑