简洁高效的LRU Map C++实现

LRU是缓存替换的一个重要原则。其思想可以广泛的应用于很多场合。通过维护一个Key和Timestamp之间的双向映射，可以实现一个简洁高效的通用LRU Map。

#include <map>
#include <string>
#include <iostream>
using namespace std;

 template<class K, class V>
 struct lrumap:public map<K, V>
 {
     typedef map<K, V> base_type;
     typedef size_t timestamp;
     typedef typename map<K, timestamp> K2T;
     typedef typename map<timestamp, K> T2K;

     K2T k2t; // from key to timestamp
     T2K t2k; // from timestamp to key

     timestamp tm;
     size_type capacity;
     lrumap(size_type cap=10)
         : tm(1), capacity(cap) {}

     V& operator[](const K& k)
     {
         timestamp& _tm=k2t[k];
         if(_tm) // if the timestamp already exist, delete it from t2k
             t2k.erase(_tm);
         _tm=tm++; // update timestamp in k2t
         t2k[_tm]=k; // update key in t2k

         V& ret= base_type::operator[](k);

         // remove the oldest if necessary
         if(size()>capacity)
         {
             K k=t2k.begin()->second; // get the eldest key
             erase(k);
         }
         return ret;
     }
     void erase(const K& k)
     {
         // erase timestamp <-> key reference
         t2k.erase(k2t[k]);
         k2t.erase(k);
         // then the actual data
         base_type::erase(k);
     }
 };

在这个实现中，当lrumap增长到等于capacity时，会出现频繁的在map中插入/删除节点的情况。大量的动态内存分配/释放会严重影响程序性能。配合pool_allocator会大大的提高这个LRU map的性能，使其成为一个真正有用的LRU map。