分布式组件(一) 分布式缓存

                                                  EhCache的使用

一、简介

  EhCache 是一个纯Java的进程内缓存框架,具有快速、精干等特点。Ehcache是一种广泛使用的开源Java分布式缓存。主要面向通用缓存,Java EE和轻量级容器。它具有内存和磁盘存储,缓存加载器,缓存扩展,缓存异常处理程序,一个gzip缓存servlet过滤器,支持REST和SOAP api等特点。

     主要的特性有:

  1.  快速
  2.  简单
  3.  多种缓存策略
  4. 缓存数据有两级:内存和磁盘,因此无需担心容量问题
  5.  缓存数据会在虚拟机重启的过程中写入磁盘
  6. 可以通过RMI、可插入API等方式进行分布式缓存
  7.  具有缓存和缓存管理器的侦听接口
  8. 支持多缓存管理器实例,以及一个实例的多个缓存区域
  9. 提供Hibernate的缓存实现

二、详细配置

EhCache 给我们提供了丰富的配置来配置缓存的设置。

cache元素的属性:  

    name:缓存名称  

    maxElementsInMemory:内存中最大缓存对象数  

    maxElementsOnDisk:硬盘中最大缓存对象数,若是0表示无穷大  

    eternal:true表示对象永不过期,此时会忽略timeToIdleSeconds和timeToLiveSeconds属性,默认为false  

    overflowToDisk:true表示当内存缓存的对象数目达到了maxElementsInMemory界限后,会把溢出的对象写到硬盘缓存中。注意:如果缓存的对象要写入到硬盘中的话,则该对象必须实现了Serializable接口才行。

  diskSpoolBufferSizeMB:磁盘缓存区大小,默认为30MB。每个Cache都应该有自己的一个缓存区。  

    diskPersistent:是否缓存虚拟机重启期数据  

    diskExpiryThreadIntervalSeconds:磁盘失效线程运行时间间隔,默认为120秒  

    timeToIdleSeconds: 设定允许对象处于空闲状态的最长时间,以秒为单位。当对象自从最近一次被访问后,如果处于空闲状态的时间超过了timeToIdleSeconds属性值,这个对象就会过期,EHCache将把它从缓存中清空。只有当eternal属性为false,该属性才有效。如果该属性值为0,则表示对象可以无限期地处于空闲状态  

    timeToLiveSeconds:设定对象允许存在于缓存中的最长时间,以秒为单位。当对象自从被存放到缓存中后,如果处于缓存中的时间超过了 timeToLiveSeconds属性值,这个对象就会过期,EHCache将把它从缓存中清除。只有当eternal属性为false,该属性才有效。如果该属性值为0,则表示对象可以无限期地存在于缓存中。timeToLiveSeconds必须大于timeToIdleSeconds属性,才有意义  

    memoryStoreEvictionPolicy:当达到maxElementsInMemory限制时,Ehcache将会根据指定的策略去清理内存。可选策略有:LRU(最近最少使用,默认策略)、FIFO(先进先出)、LFU(最少访问次数)。

三、持久化到硬盘

在一些系统中,使用EhCache来缓存数据的时候,有时是不需要持久化到硬盘的,但是在爬虫系统,就需要将数据 持久化到硬盘,用来判断URL是否重复,也就是对爬取过去的URL进行过滤,避免重复爬取。

  参考配置:

<?xml version="1.0" encoding="UTF-8"?>
 
<ehcache>
   <!-- 
         磁盘存储:将缓存中暂时不使用的对象,转移到硬盘,类似于Windows系统的虚拟内存
          path:指定在硬盘上存储对象的路径
   -->
   <diskStore path="C:\ehcache" />
    
   <!-- 
        defaultCache:默认的缓存配置信息,如果不加特殊说明,则所有对象按照此配置项处理
        maxElementsInMemory:设置了缓存的上限,最多存储多少个记录对象
        eternal:代表对象是否永不过期
        overflowToDisk:当内存中Element数量达到maxElementsInMemory时,Ehcache将会Element写到磁盘中
   -->
   <defaultCache
      maxElementsInMemory="100"
      eternal="true"
      overflowToDisk="true"/>
 
    <!-- 
        maxElementsInMemory设置成1,overflowToDisk设置成true,只要有一个缓存元素,就直接存到硬盘上去
        eternal设置成true,代表对象永久有效
        maxElementsOnDisk设置成0 表示硬盘中最大缓存对象数无限大
        diskPersistent设置成true表示缓存虚拟机重启期数据 
     -->
    <cache 
      name="a"
      maxElementsInMemory="1" 
      eternal="true"
      overflowToDisk="true" 
      maxElementsOnDisk="0"
      diskPersistent="true"/>
 
</ehcache>

四、实例

  此处使用的EhCache版本为2.X,此版本比较稳定。

1.pom.xml

<dependency>
        <groupId>net.sf.ehcache</groupId>
        <artifactId>ehcache</artifactId>
        <version>2.10.4</version>
    </dependency>

2.代码实现

public static void main(String[] args) {
        String path = System.getProperty("user.dir");
        // 创建Cache管理器
        CacheManager manager = CacheManager.create(path + "\\src\\main\\resources\\ehcache.xml");
        // 获取指定Cache
        Cache cache = manager.getCache("a");
        // 把一个元素添加到Cache中
        cache.put(new Element("name", "Joe"));
        // 根据Key获取缓存元素
        Element ele = cache.get("name");
        System.out.println("name==" + ele.getObjectValue());
        
        cache.flush(); // 刷新缓存
        manager.shutdown();  // 关闭缓存管理器
    }

3.查看C盘中的ehcache文件夹,有如下文件,说明缓存到磁盘中了。

                         Redis

 

Jedis对象不是线程安全的,在多线程下使用同一个Jedis对象会出现并发问题,为了避免每次使用Jedis对象时都需要重新创建,Jedis提供了JedisPool。Jedis是线程安全的连接池

EhCache的使用

一、简介

  EhCache 是一个纯Java的进程内缓存框架,具有快速、精干等特点。Ehcache是一种广泛使用的开源Java分布式缓存。主要面向通用缓存,Java EE和轻量级容器。它具有内存和磁盘存储,缓存加载器,缓存扩展,缓存异常处理程序,一个gzip缓存servlet过滤器,支持REST和SOAP api等特点。

     主要的特性有:

  1.  快速
  2.  简单
  3.  多种缓存策略
  4. 缓存数据有两级:内存和磁盘,因此无需担心容量问题
  5.  缓存数据会在虚拟机重启的过程中写入磁盘
  6. 可以通过RMI、可插入API等方式进行分布式缓存
  7.  具有缓存和缓存管理器的侦听接口
  8. 支持多缓存管理器实例,以及一个实例的多个缓存区域
  9. 提供Hibernate的缓存实现

二、详细配置

EhCache 给我们提供了丰富的配置来配置缓存的设置。

cache元素的属性:  

    name:缓存名称  

    maxElementsInMemory:内存中最大缓存对象数  

    maxElementsOnDisk:硬盘中最大缓存对象数,若是0表示无穷大  

    eternal:true表示对象永不过期,此时会忽略timeToIdleSeconds和timeToLiveSeconds属性,默认为false  

    overflowToDisk:true表示当内存缓存的对象数目达到了maxElementsInMemory界限后,会把溢出的对象写到硬盘缓存中。注意:如果缓存的对象要写入到硬盘中的话,则该对象必须实现了Serializable接口才行。

  diskSpoolBufferSizeMB:磁盘缓存区大小,默认为30MB。每个Cache都应该有自己的一个缓存区。  

    diskPersistent:是否缓存虚拟机重启期数据  

    diskExpiryThreadIntervalSeconds:磁盘失效线程运行时间间隔,默认为120秒  

    timeToIdleSeconds: 设定允许对象处于空闲状态的最长时间,以秒为单位。当对象自从最近一次被访问后,如果处于空闲状态的时间超过了timeToIdleSeconds属性值,这个对象就会过期,EHCache将把它从缓存中清空。只有当eternal属性为false,该属性才有效。如果该属性值为0,则表示对象可以无限期地处于空闲状态  

    timeToLiveSeconds:设定对象允许存在于缓存中的最长时间,以秒为单位。当对象自从被存放到缓存中后,如果处于缓存中的时间超过了 timeToLiveSeconds属性值,这个对象就会过期,EHCache将把它从缓存中清除。只有当eternal属性为false,该属性才有效。如果该属性值为0,则表示对象可以无限期地存在于缓存中。timeToLiveSeconds必须大于timeToIdleSeconds属性,才有意义  

    memoryStoreEvictionPolicy:当达到maxElementsInMemory限制时,Ehcache将会根据指定的策略去清理内存。可选策略有:LRU(最近最少使用,默认策略)、FIFO(先进先出)、LFU(最少访问次数)。

三、持久化到硬盘

在一些系统中,使用EhCache来缓存数据的时候,有时是不需要持久化到硬盘的,但是在爬虫系统,就需要将数据 持久化到硬盘,用来判断URL是否重复,也就是对爬取过去的URL进行过滤,避免重复爬取。

  参考配置:

  1.  
    <?xml version="1.0" encoding="UTF-8"?>
  2.  
     
  3.  
    <ehcache>
  4.  
    <!--
  5.  
    磁盘存储:将缓存中暂时不使用的对象,转移到硬盘,类似于Windows系统的虚拟内存
  6.  
    path:指定在硬盘上存储对象的路径
  7.  
    -->
  8.  
    <diskStore path="C:\ehcache" />
  9.  
     
  10.  
    <!--
  11.  
    defaultCache:默认的缓存配置信息,如果不加特殊说明,则所有对象按照此配置项处理
  12.  
    maxElementsInMemory:设置了缓存的上限,最多存储多少个记录对象
  13.  
    eternal:代表对象是否永不过期
  14.  
    overflowToDisk:当内存中Element数量达到maxElementsInMemory时,Ehcache将会Element写到磁盘中
  15.  
    -->
  16.  
    <defaultCache
  17.  
    maxElementsInMemory="100"
  18.  
    eternal="true"
  19.  
    overflowToDisk="true"/>
  20.  
     
  21.  
    <!--
  22.  
    maxElementsInMemory设置成1,overflowToDisk设置成true,只要有一个缓存元素,就直接存到硬盘上去
  23.  
    eternal设置成true,代表对象永久有效
  24.  
    maxElementsOnDisk设置成0 表示硬盘中最大缓存对象数无限大
  25.  
    diskPersistent设置成true表示缓存虚拟机重启期数据
  26.  
    -->
  27.  
    <cache
  28.  
    name="a"
  29.  
    maxElementsInMemory="1"
  30.  
    eternal="true"
  31.  
    overflowToDisk="true"
  32.  
    maxElementsOnDisk="0"
  33.  
    diskPersistent="true"/>
  34.  
     
  35.  
    </ehcache>

四、实例

  此处使用的EhCache版本为2.X,此版本比较稳定。

1.pom.xml

  1.  
    <dependency>
  2.  
    <groupId>net.sf.ehcache</groupId>
  3.  
    <artifactId>ehcache</artifactId>
  4.  
    <version>2.10.4</version>
  5.  
    </dependency>

2.代码实现

  1.  
    public static void main(String[] args) {
  2.  
    String path = System.getProperty("user.dir");
  3.  
    // 创建Cache管理器
  4.  
    CacheManager manager = CacheManager.create(path + "\\src\\main\\resources\\ehcache.xml");
  5.  
    // 获取指定Cache
  6.  
    Cache cache = manager.getCache("a");
  7.  
    // 把一个元素添加到Cache中
  8.  
    cache.put(new Element("name", "Joe"));
  9.  
    // 根据Key获取缓存元素
  10.  
    Element ele = cache.get("name");
  11.  
    System.out.println("name==" + ele.getObjectValue());
  12.  
     
  13.  
    cache.flush(); // 刷新缓存
  14.  
    manager.shutdown(); // 关闭缓存管理器
  15.  
    }

3.查看C盘中的ehcache文件夹,有如下文件,说明缓存到磁盘中了。

posted @ 2021-02-22 17:45  abcdefghijklmnop  阅读(169)  评论(0编辑  收藏  举报