list1与list2求交集的方法总结!

一、有序集合求交集的方法有

         a)二重for循环法,时间复杂度O(n*n)

         b)拉链法,时间复杂度O(n)

         c)水平分桶,多线程并行

         d)bitmap,大大提高运算并行度,时间复杂度O(n)

         e)跳表,时间复杂度为O(log(n))

以下是方法的具体介绍:

方案一:for * for,土办法,时间复杂度O(n*n)

    每个搜索词命中的网页是很多的,O(n*n)的复杂度是明显不能接受的。倒排索引是在创建之初可以进行排序预处理,问题转化成两个有序的list求交集,就方便多了。

方案二:有序list求交集,拉链法

    

      有序集合1{1,3,5,7,8,9}

      有序集合2{2,3,4,5,6,7}

    两个指针指向首元素,比较元素的大小:

    (1)如果相同,放入结果集,随意移动一个指针

    (2)否则,移动值较小的一个指针,直到队尾

  这种方法的好处是:

  (1)集合中的元素最多被比较一次,时间复杂度为O(n)

  (2)多个有序集合可以同时进行,这适用于多个分词的item求url_id交集

  这个方法就像一条拉链的两边齿轮,一一比对就像拉链,故称为拉链法

方案三:分桶并行优化

    数据量大时,url_id分桶水平切分+并行运算是一种常见的优化方法,如果能将list1<url_id>和list2<url_id>分成若干个桶区间,每个区间利用多线程并行求交集,各个线程结果集的并集,作为最终的结果集,能够大大的减少执行时间。

     举例:

      有序集合1{1,3,5,7,8,9, 10,30,50,70,80,90}

      有序集合2{2,3,4,5,6,7, 20,30,40,50,60,70}

     求交集,先进行分桶拆分:

      桶1的范围为[1, 9]

      桶2的范围为[10, 100]

      桶3的范围为[101, max_int]

    于是:

    集合1就拆分成

    集合a{1,3,5,7,8,9}

    集合b{10,30,50,70,80,90}

    集合c{} 

    集合2就拆分成

    集合d{2,3,4,5,6,7}

    集合e{20,30,40,50,60,70}

    集合e{}

    每个桶内的数据量大大降低了,并且每个桶内没有重复元素,可以利用多线程并行计算:

    桶1内的集合a和集合d的交集是x{3,5,7}

    桶2内的集合b和集合e的交集是y{30, 50, 70}

    桶3内的集合c和集合d的交集是z{}

    最终,集合1和集合2的交集,是x与y与z的并集,即集合{3,5,7,30,50,70}

方案四:bitmap再次优化

    数据进行了水平分桶拆分之后,每个桶内的数据一定处于一个范围之内,如果集合符合这个特点,就可以使用bitmap来表示集合:

      

 

  如上图,假设set1{1,3,5,7,8,9}和set2{2,3,4,5,6,7}的所有元素都在桶值[1, 16]的范围之内,可以用16个bit来描述这两个集合,原集合中的元素x,在这个16bitmap中的第x个bit为1,此时两个bitmap求交集,只需要将两个bitmap进行“与”操作,结果集bitmap的3,5,7位是1,表明原集合的交集为{3,5,7}

     水平分桶,bitmap优化之后,能极大提高求交集的效率,但时间复杂度仍旧是O(n)

    但bitmap需要大量连续空间,占用内存较大

方案五:跳表skiplist

    有序链表集合求交集,跳表是最常用的数据结构,它可以将有序集合求交集的复杂度由O(n)降至O(log(n))

     

    集合1{1,2,3,4,20,21,22,23,50,60,70}

    集合2{50,70}

    要求交集,如果用拉链法,会发现1,2,3,4,20,21,22,23都要被无效遍历一次,每个元素都要被比对,时间复杂度为O(n),能不能每次比对“跳过一些元素”呢?

跳表就出现了:

      

    集合1{1,2,3,4,20,21,22,23,50,60,70}建立跳表时,一级只有{1,20,50}三个元素,二级与普通链表相同,集合2{50,70}由于元素较少,只建立了一级普通链表;如此这般,在实施“拉链”求交集的过程中,set1的指针能够由1跳到20再跳到50,中间能够跳过很多元素,无需进行一一比对,跳表求交集的时间复杂度近似O(log(n)),这是搜索引擎中常见的算法。

 

 

 

本片博客转载自以下网站(本着分享以及保存以便日后复习的目的发布此博客):

  http://mp.weixin.qq.com/s/lwsN7RbptdL5XNEVWSevLg

posted @ 2017-07-25 16:11  Mr_nie  阅读(5199)  评论(2编辑  收藏  举报