jcs开源缓存框架介绍

Posted on 2013-04-18 13:47  IT_louis  阅读(251)  评论(0编辑  收藏  举报
JCS是Jakarta的项目Turbine的子项目。它是一个复合式的缓冲工具。可以将对象缓冲到内存、硬盘。具有缓冲对象时间过期设定。还可以通过JCS构建具有缓冲的分布式构架,以实现高性能的应用。对于一些需要频繁访问而每访问一次都非常消耗资源的对象,可以临时存放在缓冲区中,这样可以提高服务的性能。而JCS正是一个很好的缓冲工具。缓冲工具对于读操作远远多于写操作的应用性能提高非常显著。
JCS除了简单的将对象缓冲在内存中以外,还具有几个特性,以适应企业级缓冲系统的需要。这些特性包括时间过期、索引式硬盘缓冲、并行式的分布缓冲等。 

内存缓冲 


JCS现在支持两种内存缓冲算法LRU和MRU。通常都是使用LRU算法。 


org.apache.stratum.jcs.engine.memory.lru.LRUMemoryCache 


使用内存缓冲区需要定义缓冲区大小,当超过缓冲区限制时,会将缓冲内容抛弃掉。如果有配硬盘缓冲,则将挤出来的缓冲内容写入硬盘缓冲区。 


时间过期 


JCS对于缓冲的对象,可以设定缓冲过期时间,一个对象在缓冲区中停留的时间超过这个时间,就会被认为是“不新鲜”而被放弃。

索引式硬盘缓冲

  一方面,为了避免缓冲区过大,撑爆虚拟机的内存,另一方面又希望能够缓冲更多的对象,JCS可以将超出缓冲区大小的对象缓存到硬盘上。配置上也比较方便,只需要指定缓冲临时文件的存放目录位置。硬盘缓冲将缓冲对象的内容写到文件上,但是将访问索引保存在内存中,因此也能够达到尽可能高的访问效率。

并行式的分布缓冲(Lateral)

  通常,将对象缓冲在内存中,一方面提高了应用的性能,而另一方面却使得应用不可以分布式发布。因为假设一个应用配置在两台服务器上并行运行,而两台服务器单独缓冲,则很容易导致两个缓冲区内容出现版本上的不一致而出错。一个机器上修改了数据,这个动作会影响到本地内存缓冲区和数据库服务器,但是却不会通知到另一台服务器,导致另一台上缓冲的数据实际上已经无效了。


  并行式的分布缓冲就是解决这个问题。可以通过配置,将几台服务器配成一个缓冲组,组内每台服务器上有数据更新,会横向将更新的内容通过TCP/IP协议传输到其他服务器的缓冲层,这样就可以保证不会出现上述情况。这个的缺点是如果组内的并行的服务器数量增大后,组内的数据传输量将会迅速上升。这种方案适合并行服务器的数量比较少的情况。

Client/Server式的缓冲(Remote)

  客户/服务端式的缓冲集群。这种方式支持一个主服务器和最高达到256个客户端。客户端的缓冲层会尝试连接主服务器,如果连接成功,就会在主服务器上注册。每个客户端有数据更新,就会通知到主服务器,主服务器会将更新通知到除消息来源的客户端以外的所有的客户端。


  每个客户端可以配置超过一个服务器,第一个服务器是主服务器,如果与第一个服务器连接失败,客户端会尝试与备用的服务器连接,如果连接成功,就会通过备用服务器与其他客户端对话,同时会定期继续尝试与主服务器取得连接。如果备用服务器也连接失败,就会按照配置顺序尝试与下一个备用服务器连接。


  这种方式下,更新通知是一种轻量级的,一个机器上的数据更新,不会把整个数据传输出去,而只是通知一个ID,当远程的其他机器收到更新通知后,就会把对应ID的缓冲对象从本地的内存缓冲区中移除,以保证不会在缓冲区内出现错误数据。


  这种构造需要分别配置客户端和服务器,配置比较麻烦。

 

配置方法

  JCS的好处之一,就是应用在开发的时候,可以不用去构思底层的缓冲配置构架。同一个应用,只需要修改配置,就可以改变缓冲构架,不需要修改应用的源代码。配置方法也比较简单,就是修改配置文件cache.ccf。这个文件放置在WEB-INF/classes目录下。配置格式类似log4j的配置文件格式。下面介绍一下使用各种缓冲结构的配置方法。

内存缓冲

  #WEB-INF/classes/cache.ccf(以下内容不要换行) 


  jcs.default= 


  jcs.default.cacheattributes=org.apache.jcs.engine.CompositeCacheAttributes 


  jcs.default.cacheattributes.MaxObjects=1000 


  jcs.default.cacheattributes.MemoryCacheName=org.apache.jcs.engine.memory.lru.LRUMemoryCache


  上面配置了默认缓冲属性。一个应用中,由于对象类型的不同,可能会使用多个缓冲区,每个缓冲区都会有一个名字,如果在配置文件中没有指明特定的缓冲区的属性,所有的缓冲区都会根据默认属性来构建。上面的内容,指明缓冲区的大小为存放1000个对象,内存缓冲器使用LRUMemoryCache对象。可选的还有MRUMemoryCache,应该可以自定义新的内存缓冲区。1000个缓冲对象这个容量,是指每个缓冲区都缓冲1000个,而不是指所有缓冲区总容量。以上配置,就可以让应用运行起来。

时间过期

  如果需要引入时间过期机制,则需要加上 


  jcs.default.cacheattributes.cacheattributes.UseMemoryShrinker=true 


  jcs.default.cacheattributes.cacheattributes.MaxMemoryIdleTimeSeconds=3600 


  jcs.default.cacheattributes.cacheattributes.ShrinkerIntervalSeconds=60 


  这里指明对象超过3600秒则过期,每隔60秒检查一次。 

索引式硬盘缓冲

  索引式硬盘缓冲是辅助缓冲的一种,使用时需要做以下事情 



  #定义一个硬盘缓冲区产生器(Factory),取名为DC 


  jcs.auxiliary.DC=org.apache.stratum.jcs.auxiliary.disk.indexed.IndexedDiskCacheFactory


  jcs.auxiliary.DC.attributes=org.apache.stratum.jcs.auxiliary.disk.indexed.IndexedDiskCacheAttributes


  jcs.auxiliary.DC.attributes.DiskPath=g:/dev/jakarta-turbine-stratum/raf 


  #这里其实就是指明了缓冲文件存放到那里去。 


  然后,做以下修改 


  jcs.default=DC 


  这样,所有未特别指定属性的缓冲区都会自己使用一个硬盘缓冲区,缓冲文件会以缓冲区的名字来命名。存放在指定的目录下。 


  横向式的并行缓冲 


  并行式的配置如下 


  jcs.auxiliary.LTCP=org.apache.jcs.auxiliary.lateral.LateralCacheFactory 


  jcs.auxiliary.LTCP.attributes=org.apache.jcs.auxiliary.lateral.LateralCacheAttributes


  jcs.auxiliary.LTCP.attributes.TransmissionTypeName=TCP 


  jcs.auxiliary.LTCP.attributes.TcpServers=192.168.10.129:1121,192.168.10.222:1121


  jcs.auxiliary.LTCP.attributes.TcpListenerPort=1121 


  jcs.auxiliary.LTCP.attributes.PutOnlyMode=false 


  这里的配置是在41,129,221三台机器上实现并行缓冲的。 


  大家都在1121端口上监听,同时与另外两台机器连接。如果连接失败,就会等待一个时间后再连接一次,直到连接成功为止。三台机器中任意一台的缓冲区发生更新,比如put和remove动作,就会把更新传递给另外两台。

单独指明某个缓冲区的属性

  如果,针对某个缓冲区,比如叫做TestCache1,需要单独配置属性,可以如下配置。 


  jcs.region.testCache1=DC,LTCP 


  jcs.region.testCache1.cacheattributes=org.apache.stratum.jcs.engine.CompositeCacheAttributes


  jcs.region.testCache1.cacheattributes.MaxObjects=1000 


  jcs.region.testCache1.cacheattributes.MemoryCacheName=org.apache.stratum.jcs.engine.memory.lru.LRUMemoryCache


  jcs.region.testCache1.cacheattributes.UseMemoryShrinker=true 


  jcs.region.testCache1.cacheattributes.MaxMemoryIdleTimeSeconds=3600 


  jcs.region.testCache1.cacheattributes.ShrinkerIntervalSeconds=60 


  system.GroupIdCache 


  这个概念我也不是很清楚。不过JCS文档中指出配置以下内容会比较好。 


  jcs.system.groupIdCache=DC 


  jcs.system.groupIdCache.cacheattributes=org.apache.stratum.jcs.engine.CompositeCacheAttributes


  jcs.system.groupIdCache.cacheattributes.MaxObjects=10000 


  jcs.system.groupIdCache.cacheattributes.MemoryCacheName=org.apache.stratum.jcs.engine.memory.lru.LRUMemoryCache


  这可能是JCS自己的组管理体系上的缓冲区。 

Client/Server式的缓冲(Remote)

  这种构架需要单独配置客户端和服务端,如果要研究,可以查看 http://jakarta.apache.org/turbine/jcs/RemoteAuxCache.html

 



这里给出一个之前系统配置的例子:cache.cff配置

# DEFAULT CACHE REGION

# sets the default aux value for any non configured caches
jcs.default=DC
jcs.default.cacheattributes=org.apache.jcs.engine.CompositeCacheAttributes
jcs.default.cacheattributes.MaxObjects=1
jcs.default.cacheattributes.MemoryCacheName=org.apache.jcs.engine.memory.lru.LRUMemoryCache
jcs.default.elementattributes.IsEternal=true
jcs.default.elementattributes.MaxLifeSeconds=360000
jcs.default.elementattributes.IdleTime=1800
jcs.default.elementattributes.IsSpool=true
jcs.default.elementattributes.IsRemote=true
jcs.default.elementattributes.IsLateral=true

# CACHE REGIONS AVAILABLE

# AUXILIARY CACHES AVAILABLE

# Primary Disk Cache -- faster than the rest because of memory key storage
jcs.auxiliary.DC=org.apache.jcs.auxiliary.disk.indexed.IndexedDiskCacheFactory
jcs.auxiliary.DC.attributes=org.apache.jcs.auxiliary.disk.indexed.IndexedDiskCacheAttributes
jcs.auxiliary.DC.attributes.DiskPath=./kpicache
jcs.auxiliary.DC.attributes.MaxPurgatorySize=100000000
jcs.auxiliary.DC.attributes.MaxKeySize=10000000
jcs.auxiliary.DC.attributes.OptimizeAtRemoveCount=300000
jcs.auxiliary.DC.attributes.MaxRecycleBinSize=7500

 

一些方法的操作:

package com.zyujie.util;

import org.apache.jcs.JCS;


public class JCSManagerDTO {
 private static JCSManagerDTO instance;
 private static int checkedOut=0;
 public static JCS ObjCache;
 private JCSManagerDTO()
 {
 try
 {
 ObjCache=JCS.getInstance("ObjCache");
 }
 catch(Exception e)
 {
 e.printStackTrace();
 }
 }
 
public static JCSManagerDTO getInstance()
 {
 synchronized(JCSManagerDTO.class)
 {
 if(instance==null)
 {
 instance=new JCSManagerDTO();
 }

 }
 synchronized(instance)
 {
 instance.checkedOut++;
 }
 return instance;
 }
 
public Object getObj (Object key)
 {
 Object obj=null;
 obj=(Object)ObjCache.get(key);
 return obj;
 }
 
public void storeObject(Object key,Object obj)
 {
 try
 {
 if(!key.equals(""))
 {
 //ObjCache.remove(key);
 }
 ObjCache.put(key, obj);

 }
 catch(Exception e)
 {}
 }

 public void clearObject(Object key)
 {
 try
 {
 ObjCache.remove(key);
 }
 catch(Exception e)
 {}
 }

 public void clear()
 {
 try
 {
 ObjCache.clear();
 }
 catch(Exception e)
 {}
 }
 
public void clearMatchObject(String key){

 //CacheAccess access1=CacheAccess.getAccess("DC");
 //java.util.Map map=access1.get.getMatchingCacheElements(key);
 }
 public static void main(String [] args)
 {
 JCSManagerDTO dto=JCSManagerDTO.getInstance();
 dto.storeObject("test1", "111");
 dto.storeObject("test2", "222");
 dto.storeObject("test3", "333");
 dto.storeObject("test4", "444");

 System.out.println("test1 is "+dto.getObj("test1"));
 System.out.println("test2 is "+dto.getObj("test2"));
 System.out.println("test3 is "+dto.getObj("test3"));
 System.out.println("test4 is "+dto.getObj("test4"));
 }

}

 

依赖jar包

jcs-1.3.jar

commons-lang-2.3.jar

commons-collections-2.1.1.jar

concurrent-1.3.4.jar

 

Copyright © 2024 IT_louis
Powered by .NET 9.0 on Kubernetes