python 操作 memcache
Memcached
Memcached是一个高性能的分布式内存对象缓存系统,用于动态Web应用以减轻数据库负载。Memcached基于一个存储键/值的hashmap。其守护进程(daemon)是用C语言写的,但是客户端可以用任何语言编写,并通过memcached协议与守护进程通信。memcached存放数据是通过hash环的方式来存储的。
Memcached安装
启动命令:
memcached -d -m 10 -u root -l 10.211.55.4 -p 12000 -c 256 -P /tmp/memcached.pid
相关参数说明:
-d :启动一个守护进程;
-m :分配给Memcache使用的内存数量,单位是MB;
-u :运行memcache的用户;
-l :监听的服务器IP地址;
-p :设置Memcache监听的端口,最好是1024以上的端口;
-c :选项是最大运行的并发连接数,默认是1024,按照你服务器的负载量来设定;
-P :设置保存Memcache的pid文件。
可以直接在 telnet 命令行中执行命令
python操作Memcached
使用 python-memcached 模块来操作Memcached,首先安装 python-memcached 模块
pip install python-memcached
简单操作:
#!/usr/bin/env python
# coding:utf-8
# Time:2017/12/6/0006 21:43
# write_by: ping
# script_name:demo1.py
from memcache import Client
client_list = ['192.168.189.100:11211']
conn = Client(client_list, debug=True)
conn.set("alpha", "beta")
ret = conn.get("alpha")
print ret
#结果:
beta
上面例子中通过调用memcached模块来实现对memcached进行存取数据,debug=True表示运行中出现错误时,显示错误信息,生产环境应该移除。
同时,该模块还支持集群操作,其原理是在内存维护一个主机列表,且集群中主机的权重值和主机在列表中重复出现的次数成正比。
主机 权重
1.1.1.1 1
1.1.1.2 2
1.1.1.3 1
#那么在内存中主机列表为:
#1.1.1.2出现两次
host_list=['1.1.1.1','1.1.1.2','1.1.1.2','1.1.1.3',]
如果用户要在内存中创建一个键值对(如:k1="v1"),那么要执行一下步骤:
- 通过hash算法对k1求唯一的hash值
- 将hash值和主机列表长度取余,获得一个值,如上面三台主机,由于权重不同,主机列表长度应该为4,取余的结果就有三种:1、2、3,4
- 按照余数,将键值对放到对应的主机内存中存储。
代码实现如下:
server_list = [('1.1.1.1:11211', 1),('1.1.1.2:11211', 2),('1.1.1.3"11211', 1)]
conn = Clinent(server_list, debug=True)
conn.set('k1','v1')
Memcache模块常用方法
add
添加一条键值对,如果已经存在的key,重复执行add操作会报异常。
client_list = ['192.168.189.100:11211']
conn = Client(client_list, debug=True)
# conn.set("alpha", "beta")
ret = conn.get("alpha")
print ret
conn.add("alpha", "beta")
#结果为:
beta
MemCached: while expecting 'STORED', got unexpected response 'NOT_STORED'
replace
修改某个key的值,如果key不存在,则异常
conn.replace("lambda","gamma")
#报错结果:
MemCached: while expecting 'STORED', got unexpected response 'NOT_STORED'
set和set_multi
- set:设置一个键值对,如果key不存在,则创建,如果key存在,则覆盖
- set_multi:设置多个键值对,如果key不存在,则创建,如果key存在,则覆盖
#格式为:
conn.set("key1","vaule1")
k_v = {'k1':'v1','k2':'v2'}
conn.set_multi(**k_v)
get和get_multi
- get:获取一个键值对
- get_multi:获取多个键值对
#格式为:
conn.get("k1")
conn.get_multi("k1","k2")
append和prepend
- append:修改指定key的值,在该值后面追加内容
- prepend:修改指定key的值,在改制前面插入内容
conn.append('k1','after')
val1 = conn.get('k1')
print(val1)
conn.prepend('k1','brefore')
val2 = conn.get('k1')
print(val2)
#结果:
v1afterafter
breforev1afterafter
decr和incr
- incr:自增,将memcached中的某一个值增加N(N默认为1)
- decr:自减,将memcached中的某一个值减少N(N默认为1)
conn.set('k1','777')
#conn.incr('k1') #778,默认自增1
conn.incr('k1',10)
val1 = conn.get('k1')
print(val1)
conn.decr('k1',20)
val2 = conn.get('k1')
print(val2)
#结果
787 #自增后的结果
767 #自减后的结果
gets和cas
在高并发的过程中,如果多个用户对一个数据同时修改,将会导致数据出现不准确的情况。gets和cas就是为了保证数据的安全性的。
v = conn.gets('product_count')
print(v)
#如果有人在gets之后和cas之前修改了product_count,那么下面的设置将会执行失败,抛出异常,从而避免非正常数据的产出
v1 = conn.cas('product_count',"899")
print(v1)
#结果:
899
True
本质上每次执行gets时,会从memcache中获取一个自增的数字,通过cas去修改gets的值时,会携带之前获得的自增值和memcache中的自增值进行比较,如果相等,则可以提交,不过不相等,那表示在gets和cas执行之间,又有其他人执行了gets(获取了缓冲的指定值),如此一来有可能出现非正常数据,则不容许修改。