链表(上):如何实现LRU缓存淘汰算法?
1、常用缓存策略
缓存淘汰策略:指的是当缓存被用满时清理数据的优先顺序。
缓存是一种提高数据读取性能的技术,比如常见的cpu缓存、数据库缓存、浏览器缓存。但是缓存的大小有限,当缓存用满的时候,哪些数据应该被清理出去,哪些数据应该被保留?
解决方案:FIFO(First In,First Out)--->先进先出策略 LFU(Least Frequently Used)---> 最少使用策略 LRU(Least Recently Used)--->最近最少使用策略
2、数组和链表底层存储结构对比
详解:数组需要一块连续的内存空间来存储,对内存的要求比较高。如果我们申请一个100M内存的大小的数组,当内存中没有连续足够大的空间时,即便内存中没有连续足够大的存储空间的时候,仍然会申请失败!而链表恰恰相反,它并不需要一块连续的内存空间,它通过指针将一组零散的内存块串联起来使用,所以我们申请一个100MB大小的链表,根本不会有问题。
3、链表的分类
链表:通过指针将一组零散的内存快串联在一起,我们把内存块称为链表的节点,为了将所有节点都串起来,每个链表的节点除了存储数据之外,还需要记录下一个结点的地址。我们把这个记录下个结点地址的指针叫作后继指针next
单链表:
其中俩个节点比较特殊,分别是第一个节点和最后一个节点,我们把第一个结点叫作头结点,把最后一个节点叫作尾节点,头节点用来记录链表的基地址,有了它,就可以遍历整个链表。而尾节点特殊的地方是:指针不指向下一个结点,而是指向一个空地址null,表示这个是链表上最后一个结点。
链表与数组相比,插入和删除(仅仅对本身单独的操作)效率更高,时间复杂度为O(1),数组时间复杂度为O(n)。
因为链表的存储空间本身就不是连续的,对链表的插入和删除操作,我们只需要考虑相邻结点的指针改变,所以对应的时间复杂度是 O(1)。但是链表要想随机访问第 k 个元素,就没有数组那么高效了。因为链表中的数据并非连续存储的,所以无法像数组那样,根据首地址和下标,通过寻址公式就能直接计算出对应的内存地址,而是需要根据指针一个结点一个结点地依次遍历,直到找到相应的结点。
循环链表:是一种特殊的单链表,实际上链表也很简单,它和单链表唯一的区别就在尾结点,循环链表的尾结点指针是指向链表的头结点。
与单链表相比的优点:从链尾到链头比较方便,当要处理的数据具有环形结构特点的时候,就特别适合采用循环链表。比如著名的约瑟夫问题。
双向链表:单向链表只有一个方向,结点只有一个后继指针next指向后面的结点。而双向链表,顾名思义,它支持俩个方向,每个结点不止有一个后继指针next指向后面的结点,还有一个前继指针prev指向前面的结点。
双向链表需要额外的俩个空间来存储后继结点和前驱结点的地址。所以,存储同样多的数据,双向链表要比单链表占用更多的存储空间。虽然俩个指针比较浪费存储空间,但可以支持双向遍历,这样给双向链表带来灵活性!
问题:双向链表适合解决哪种问题呢?
双向链表可以支持O(1)时间复杂度的情况下,找到前驱结点,正是这样的特点使双向链表在某些情况下的插入删除更加的高效。
问题:单链表的插入和删除时间复杂度已经是O(1)呢?还怎么进行高效呢?
在实际的开发中,从链表中删除一个数据无外乎俩种情况:
1、删除结点中 “值等于某个定值”的结点
2、删除给定指针指向的结点
对于第一种情况,不管是单链表还是双链表,为了查找某个值等于给定值的结点,都需要从头开始一个一个一次遍历对比,直到找到值等于给定值的结点,然后再通过指针操作将其删除。尽管单纯的删除操作时间复杂度是O(1),但遍历查找的时间是主要的耗时点,对应的时间复杂度为O(n),所以删除值等于给定值的时间复杂度为O(n)
对于第二种情况,我们已经找到了要删除的结点,但是删除某结点需要知道其前驱结点,单链表是不支持获取前驱结点的,所以为了找到前驱结点,我们还是要从头开始去寻找,直到p--next=q,这个时候说明p是q的前驱结点。但是对于双向链表来说,因为双向链表中的结点已经保存了前驱结点的指针,不需要像单链表一样去遍历,所以俩者的复杂度分别为O(n)和O(1)
同样的对于插入操作,如果在某个指定结点之前插入一个值,双向链表对比单向链表也具有很大的优势,时间复杂度分别为O(1)和O(n)。
双向循环链表:
4、链表 VS 数组性能大比拼
1.插入、删除和随机访问的时间复杂度
数组:插入、删除的时间复杂度是O(n),随机访问的时间复杂度是O(1)。
链表:插入、删除的时间复杂度是O(1),随机访问的时间复杂端是O(n)。
2.数组缺点
1)若申请内存空间很大,比如100M,但若内存空间没有100M的连续空间时,则会申请失败,尽管内存可用空间超过100M。
2)大小固定,若存储空间不足,需进行扩容,一旦扩容就要进行数据复制,而这时非常费时的。
3.链表缺点
1)内存空间消耗更大,因为需要额外的空间存储指针信息。
2)对链表进行频繁的插入和删除操作,会导致频繁的内存申请和释放,容易造成内存碎片,如果是Java语言,还可能会造成频繁的GC(自动垃圾回收器)操作。
4.如何选择?
数组简单易用,在实现上使用连续的内存空间,可以借助CPU的缓冲机制预读数组中的数据,所以访问效率更高,而链表在内存中并不是连续存储,所以对CPU缓存不友好,没办法预读。
如果代码对内存的使用非常苛刻,那数组就更适合。
数组简单易用,在实现上使用的是连续的内存空间,可以借助 CPU 的缓存机制,预读数组中的数据,所以访问效率更高。而链表在内存中并不是连续存储,所以对 CPU 缓存不友好,没办法有效预读。(明白其中奥义:需学习CPU缓存机制、Disruptor异步消息处理框架)
注解:CPU在从内存读取数据的时候,会先把读取到的数据加载到CPU的缓存中。而CPU每次从内存读取数据并不是只读取那个特定要访问的地址,而是读取一个数据块(这个大小我不太确定。。)并保存到CPU缓存中,然后下次访问内存数据的时候就会先从CPU缓存开始查找,如果找到就不需要再从内存中取。这样就实现了比内存访问速度更快的机制,也就是CPU缓存存在的意义:为了弥补内存访问速度过慢与CPU执行速度快之间的差异而引入。
对于数组来说,存储空间是连续的,所以在加载某个下标的时候可以把以后的几个下标元素也加载到CPU缓存这样执行速度会快于存储空间不连续的链表存储。
5、解答开篇问题
我们维护一个有序单链表,越靠近链表尾部的结点是越早之前访问的。当有一个新的数据被访问时,我们从链表头开始顺序遍历链表。
1. 如果此数据之前已经被缓存在链表中了,我们遍历得到这个数据对应的结点,并将其从原来的位置删除,然后再插入到链表的头部。
2. 如果此数据没有在缓存链表中,又可以分为两种情况:如果此时缓存未满,则将此结点直接插入到链表的头部;如果此时缓存已满,则链表尾结点删除,将新的数据结点插入链表的头部。
6、设计思想
时空替换思想:“用空间换时间” 与 “用时间换空间”
当内存空间充足的时候,如果我们更加追求代码的执行速度,我们就可以选择空间复杂度相对较高,时间复杂度小相对较低的算法和数据结构,缓存就是空间换时间的例子。如果内存比较紧缺,比如代码跑在手机或者单片机上,这时,就要反过来用时间换空间的思路。