twemproxyMemcache协议解析探索——剖析twemproxy代码正编补充
memcache是一种和redis类似的高速缓存服务器,但是memcache只提供键值对这种简单的存储方式,相对于redis支持的存储方式多样化,memcache就比较简单了。memcache通过tcp或者udp连接来实现memcache客户端和服务端的交互。memcache的协议是自定的,也分为两种:一种是文本协议(这是我们今天讨论的重点),另一种是二进制协议(在我们今天讨论的范围),这里仅仅介绍用tcp连接以及文本协议通信的memcache协议。如有描述不当的地方请大家指出。
memcache文本协议
存储命令
add/replace/set/append/prepend命令格式如下:
<command name> <key> <flags> <exptime> <bytes>\r\n
<data block>\r\n
格式的介绍如下:
<command name>可以是add(即增加不存在的键值对),replace(即替换存在的键值对),set(上述两种的功能都具有),append(在存在的键对应的值后增加对应的内容)以及prepend(在存在的键对应的值之前增加对应的内容)。
<key> 是数据项的键名。
<flags>是在取回内容时,与数据和发送块一同保存服务器上的任意16位无符号整形(用十进制来书写),一般为0。
<exptime> 是有效时间。如果为0,该项永不过期,如果非0,该项将在<exptime> 后删除。
<bytes>是<data block>的长度,是数据项的长度。
<data block>是数据项的数据。
add/replace/set/append/prepend命令回复
"STORED\r\n"表明存储成功。
"NOT_STORED\r\n"表明数据没有被存储,但不是因为发生错误。这通常意味着add , replace的条件不满足或者项目已经位列删除队列(参考后文的“delete”命令)。
cas命令格式如下:
cas <key> <flags> <exptime> <bytes> <cas unique> [noreply]\r\n
<data block>\r\n
<key> ,<flags>,<exptime>, <bytes>以及<data block>同add/replace/set/append/prepend命令
<cas unique> 是一个与已存数据条目相关的全局唯一的64位数。客户端应该使用"gets"命令返回的该值来进行"cas"更新操作。
[noreply]是可选项指示不要回复。注意:如果请求行格式错误,服务器不一定能可靠地解析"noreply"选项。在此种情况下,它可能会发送错误信息给客户端,如果客户端没有读取该信息的话会带来问题。客户端应该只构造合法的请求。
cas命令回复如下:
"EXIST\r\n" 指示要更新的数据自你上次取过后已经过修改。
"NO_FOUND\r\n" 指示要修改的数据并不存在。
delete格式命令如下:
delete <key> <time>\r\n
delete是删除对应的键名。
<key> 是需要删除的键名。
<time>是一个单位为秒的时间,在该时间内服务器会拒绝对于此键名的“add”和“replace”命令。此时内容被放入delete队列,无法再通过“get”得到该内容,也无法是用“add”和“replace”命令(但是“set”命令可用)。直到指定时间,这些内容被最终从服务器的内存中彻底清除。
delete命令回复如下:
"DELETED\r\n"表示执行成功
"NOT_FOUND\r\n"表示没有找到这项内容
读取命令
get/gets命令格式如下:
get/gets <key>*\r\n
<key>*指的是多个以空格分割的键名。
get/gets命令回复如下:
VALUE <key> <flags> <bytes> [<cas unique>]\r\n
<data block>\r\n
<key>是数据项的键名
<flags>是由存储命令设置的flags,一般为0
<bytes>是数据块的长度
<cas unique>是一个64位整数,唯一标识了一个特定的数据项。
<data block>是数据项的数据。
这里的所有数据以"END"结束。
incr/desc命令格式如下:
incr/desc <key> <value> [noreply]\r\n
<key>是数据项的键名
<value>是对数据项incr(递增)/desc(递减)的值。它是一个64位的无符号十进制整数。
[norply]是可选参数,不要回复。
incr/desc命令回复:
"NOT_FOUND\r\n" 指示这个数据项找不到。
"<value>\r\n", 其中<value>是这个数据项在经过递增/递减操作后的新值。
memcache文本协议的请求的解析
这个是在proto/memcache.c里的memcache_parse_req函数
它也是用有限状态机去完成解析的
1 enum { 2 SW_START, 3 SW_REQ_TYPE, 4 SW_SPACES_BEFORE_KEY, 5 SW_KEY, 6 SW_SPACES_BEFORE_KEYS, 7 SW_SPACES_BEFORE_FLAGS, 8 SW_FLAGS, 9 SW_SPACES_BEFORE_EXPIRY, 10 SW_EXPIRY, 11 SW_SPACES_BEFORE_VLEN, 12 SW_VLEN, 13 SW_SPACES_BEFORE_CAS, 14 SW_CAS, 15 SW_RUNTO_VAL, 16 SW_VAL, 17 SW_SPACES_BEFORE_NUM, 18 SW_NUM, 19 SW_RUNTO_CRLF, 20 SW_CRLF, 21 SW_NOREPLY, 22 SW_AFTER_NOREPLY, 23 SW_ALMOST_DONE, 24 SW_SENTINEL 25 } state;
这里的有限状态机图如下:
storage就是存储命令,即add/replace/set/append/prepend/cas命令,retreval就是读取命令,即get\gets命令,other就是除了存储命令,get\gets命令,touch命令,incr/desc命令之外的命令。
例如get\gets命令,先是SW_REQ_TYPE,就是get\gets字符串,再是SW_SPACES_BEFORE_KEY,即空格,然后使SW_KEY,就是键名,接着回到SW_SPACES_BEFORE_KEY,不断往复。
memcache文本协议的回复的解析
这个是在proto/memcache.c里的memcache_parse_rsp函数
它也是用有限状态机去完成解析的,下面是这些状态。
1 enum { 2 SW_START, 3 SW_RSP_NUM, 4 SW_RSP_STR, 5 SW_SPACES_BEFORE_KEY, 6 SW_KEY, 7 SW_SPACES_BEFORE_FLAGS, /* 5 */ 8 SW_FLAGS, 9 SW_SPACES_BEFORE_VLEN, 10 SW_VLEN, 11 SW_RUNTO_VAL, 12 SW_VAL, /* 10 */ 13 SW_VAL_LF, 14 SW_END, 15 SW_RUNTO_CRLF, 16 SW_CRLF, 17 SW_ALMOST_DONE, /* 15 */ 18 SW_SENTINEL 19 } state;
这里的有限状态机图如下:
例如,如果是get和gets的回复就会先进入SW_RSP_STR,即“VALUE”,接着进入SW_SPACES_BEFOER_KEY这条线,知道这行的结束SW_RUNTO_CRLF,然后进入数据块SW_RUNTO_VAL这条线,知道SW_RSP_STR,直至到SW_RSP_STR中解析出“END”,会到SW_CRLF这条线。
总结
本文主要介绍了memcache的文本协议以及tweproxy如何解析memcache请求包和memcache回复包。