c++实现缓存

1.网络应用流程框架

2.缓存的目的：
在用户量、访问数巨大的情况下，服务器的资源有限、数据库每秒能够接受的请求有限，需要在有限的资源下尽可能大地提供吞吐量。一个有效的解决方案是使用缓存，在上图中每个请求的环节都可以使用缓存。
3.缓存的属性和行为：
缓存的属性：
1.命中率：缓存最重要的属性，等于缓存正确的返回值/缓存的申请数，刻画了缓存的有效性；
2.最大元素个数：缓存的元素空间，当缓存中的元素个数超过了最大元素空间，启动清空策略；
3.元素使用时间：某个元素的使用时间，可以用来判断该元素是否过期
缓存的行为：
清空策略：当缓存中的元素超过了最大元素空间时，为了保证较高的命中率，而针对不同场景采取的策略：
1.针对时效性强的场景---FIFO（First In First Out）
缓存优先清空最先存储的元素，保证缓存中的元素具有较强的时效性
2.针对高频场景--LFU（Less Frequently Used）
根据元素的使用次数，使用次数最少的元素优先被清空
3.针对热点场景（Least Recently Used）
根据元素最后被使用的时间，如果最后使用时间最长则优先被淘汰，该策略确保了热点元素存在于缓存中