LRU cache实现 -Java 转

引子：

      我们平时总会有一个电话本记录所有朋友的电话，但是，如果有朋友经常联系，那些朋友的电话号码不用翻电话本我们也能记住，但是，如果长时间没有联系了，要再次联系那位朋友的时候，我们又不得不求助电话本，但是，通过电话本查找还是很费时间的。但是，我们大脑能够记住的东西是一定的，我们只能记住自己最熟悉的，而长时间不熟悉的自然就忘记了。

      其实，计算机也用到了同样的一个概念，我们用缓存来存放以前读取的数据，而不是直接丢掉，这样，再次读取的时候，可以直接在缓存里面取，而不用再重新查找一遍，这样系统的反应能力会有很大提高。但是，当我们读取的个数特别大的时候，我们不可能把所有已经读取的数据都放在缓存里，毕竟内存大小是一定的，我们一般把最近常读取的放在缓存里（相当于我们把最近联系的朋友的姓名和电话放在大脑里一样）。现在，我们就来研究这样一种缓存机制。

LRU Cache：

     LRU缓存利用了这样的一种思想。LRU是Least Recently Used 的缩写，翻译过来就是“最不常使用”，也就是说，LRU缓存把最不常使用的数据移除，让给最新读取的数据。大多数情况下，最常读取的，也是读取次数最多的，所以，利用LRU缓存，我们能够提高系统的performance. LRU cache是非常频繁出现的一道面试题，一般来讲，当我们问到这道题时，面试官往往想得到的答案是利用 doubly linked list + hashtable 实现 LRU Cache, 那么我们现在就来讲一讲如何利用doubly linked list + hashtable实现LRU Cache的。

对于LRU cache，往往会有以下要求：

1. 假设Cache里面的 entry 都是按照序列保存的，那么，对于新的entry，我们把它放置在最前面。

2. 如果一个entry已经存在，我们再次访问到该entry的时候，我们需要把它放在cache的最前面。

3. 当cache满了的时候，需要把最后一个entry 从cache里面移除出去，然后再往里插入 entry。

4. 以上所有的操作复杂度必须为 O(1).

      对于操作复杂度，一旦看到要求为O(1)， 一般我们都会立刻想到 hashtable, 所以，为了实现“顺序”的要求，我们需要有一个链表来连接所有的entry. 所以，在实现时，我们将Cache的所有 entry 都用doubly linked list 连接起来，当一个 entry 被命中之后，就将通过调整链表的指向，将该位置调整到链表头的位置，新加入的Cache直接加到链表头中。这样，在多次进行Cache操作后，最近被命中的，就会被向链表头方向移动，而没有命中的，而想链表后面移动，链表尾则表示最近最少使用的Cache。当需要替换内容时候，链表的最后位置就是最少被命中的位置，我们只需要淘汰链表最后的部分即可。

我们首先定义entry, 每一个entry包括键（key）和 值 （value），而且，每一个 entry 都带有两个指针分别指向它们的前一个和后一个 entry.

package Cache;

public class Entry
{
    Entry prev;
    Entry next;
    Object value;
    Object key;
}

再定义一个统一的接口：

package Cache;

public interface MyCache
{
    public void addElement(Object key, Object value);
    public Object getElement(Object key);
    public boolean isExist(Object key);
    public int size();
    public int capacity();
    public void clear();
}

在Hashtable里，我们需要保存该Entry, 这个时候，我们用Entry的键作为Hashtable 里的键，而Hashtable的值呢就是Entry。

package Cache;

import java.util.*;

public class MyLRUCache implements MyCache
{
    private int cacheSize;
    private Hashtable<Object, Entry> nodes;
    private int currentSize;
    private Entry first;
    private Entry last;

    public MyLRUCache(int i)
    {
        currentSize = 0;
        cacheSize = i;
        nodes = new Hashtable<Object, Entry>(i);
    }

    @Override
    public synchronized void addElement(Object key, Object value)
    {
        Entry node = nodes.get(key);
        if (node == null)
        {
            if (currentSize >= cacheSize)
            {
                nodes.remove(last.key);
                removeLast();
            } else
                currentSize++;
            node = new Entry();
        }
        node.value = value;
        moveToHead(node);
        nodes.put(key, node);
    }

    private synchronized void moveToHead(Entry node)
    {
        if (node == first)
            return;
        if (node.prev != null)
            node.prev.next = node.next;
        if (node.next != null)
            node.next.prev = node.prev;
        if (last == node)
            last = node.prev;
        if (first != null)
        {
            node.next = first;
            first.prev = node;
        }
        first = node;
        node.prev = null;
        if (last == null)
            last = first;

    }

    private synchronized void removeLast()
    {
        if (last != null)
        {
            if (last.prev != null)
                last.prev.next = null;
            else
                first = null;
            last = last.prev;
        }
    }

    @Override
    public synchronized Entry getElement(Object key)
    {
        Entry node = nodes.get(key);
        if (node != null)
        {
            moveToHead(node);
            return node;
        } else
            return null;
    }

    @Override
    public boolean isExist(Object key)
    {
        Entry node = nodes.get(key);
        if (node != null)
            return true;
        return false;
    }

    @Override
    public int size()
    {
        return currentSize;
    }

    @Override
    public int capacity()
    {
        return cacheSize;
    }

    @Override
    public void clear()
    {
        first = null;
        last = null;
        currentSize = 0;

    }

}