浅析SQL的窗口函数是什么,怎么使用,为什么需要使用窗口函数以及利用窗口函数解决TopN问题

一、窗口函数有什么用

  在日常工作中,经常会遇到需要在每组内排名,比如下面的业务需求:

排名问题:每个部门按业绩来排名
topN问题:找出每个部门排名前N的员工进行奖励

  面对这类需求,就需要使用sql的高级功能窗口函数了。

二、什么是窗口函数

  窗口函数,也叫OLAP函数(Online Anallytical Processing,联机分析处理),可以对数据库数据进行实时分析处理。窗口函数的基本语法如下:

<窗口函数> over (partition by <用于分组的列名>
                order by <用于排序的列名>)

  那么语法中的<窗口函数>都有哪些呢?<窗口函数>的位置,可以放以下两种函数:

1、 专用窗口函数,包括后面要讲到的rank, dense_rank, row_number等专用窗口函数。

2、 聚合函数,如sum. avg, count, max, min等

  因为窗口函数是对where或者group by子句处理后的结果进行操作,所以窗口函数原则上只能写在select子句中

三、如何使用

  接下来,就结合实例,给大家介绍几种窗口函数的用法。

1、专用窗口函数rank

  例如如果我们想在每个班级内按成绩排名,得到下面的结果。

  以班级“1”为例,这个班级的成绩“95”排在第1位,这个班级的“83”排在第4位。上面这个结果确实按我们的要求在每个班级内,按成绩排名了。得到上面结果的sql语句代码如下:

select *,
   rank() over (partition by 班级
                 order by 成绩 desc) as ranking
from 班级表

  我们来解释下这个sql语句里的select子句。rank是排序的函数。要求是“每个班级内按成绩排名”,这句话可以分为两部分:

1)每个班级内:按班级分组 - partition by用来对表分组。在这个例子中,所以我们指定了按“班级”分组(partition by 班级)

2)按成绩排名:order by子句的功能是对分组后的结果进行排序,默认是按照升序(asc)排列。在本例中(order by 成绩 desc)是按成绩这一列排序,加了desc关键词表示降序排列。

2、为什么需要用窗口函数?

  窗口函数具备了我们之前学过的group by子句分组的功能和order by子句排序的功能。那么,为什么还要用窗口函数呢?

  这是因为,group by分组汇总后改变了表的行数,一行只有一个类别。而partiition by和rank函数不会减少原表中的行数。例如下面统计每个班级的人数。

  现在我们说回来,为什么叫“窗口”函数呢?这是因为partition by分组后的结果称为“窗口”,这里的窗口不是我们家里的门窗,而是表示“范围”的意思。简单来说,窗口函数有以下功能:

1)同时具有分组和排序的功能

2)不减少原表的行数

3)语法如下:

<窗口函数> over (partition by <用于分组的列名>
                order by <用于排序的列名>)

3、其他专用窗口函数

  专用窗口函数rank, dense_rank, row_number有什么区别呢?它们的区别我举个例子,你们一下就能看懂:

select *,
   rank() over (order by 成绩 desc) as ranking,
   dense_rank() over (order by 成绩 desc) as dese_rank,
   row_number() over (order by 成绩 desc) as row_num
from 班级表

  从上面的结果可以看出:

(1)rank函数:这个例子中是5位,5位,5位,8位,也就是如果有并列名次的行,会占用下一名次的位置。比如正常排名是1,2,3,4,但是现在前3名是并列的名次,结果是:1,1,1,4。

(2)dense_rank函数:这个例子中是5位,5位,5位,6位,也就是如果有并列名次的行,不占用下一名次的位置。比如正常排名是1,2,3,4,但是现在前3名是并列的名次,结果是:1,1,1,2。

(3)row_number函数:这个例子中是5位,6位,7位,8位,也就是不考虑并列名次的情况。比如前3名是并列的名次,排名是正常的1,2,3,4。

  最后,需要强调的一点是:在上述的这三个专用窗口函数中,函数后面的括号不需要任何参数,保持()空着就可以。现在,大家对窗口函数有一个基本了解了吗?

 4、聚合函数作为窗口函数

  聚和窗口函数和上面提到的专用窗口函数用法完全相同,只需要把聚合函数写在窗口函数的位置即可,但是函数后面括号里面不能为空,需要指定聚合的列名。我们来看一下窗口函数是聚合函数时,会出来什么结果:

select *,
   sum(成绩) over (order by 学号) as current_sum,
   avg(成绩) over (order by 学号) as current_avg,
   count(成绩) over (order by 学号) as current_count,
   max(成绩) over (order by 学号) as current_max,
   min(成绩) over (order by 学号) as current_min
from 班级表

 

  有发现什么吗?我单独用sum举个例子:如上图,聚合函数sum在窗口函数中,是对自身记录、及位于自身记录以上的数据进行求和的结果。比如0004号,在使用sum窗口函数后的结果,是对0001,0002,0003,0004号的成绩求和,若是0005号,则结果是0001号~0005号成绩的求和,以此类推。

  不仅是sum求和,平均、计数、最大最小值,也是同理,都是针对自身记录、以及自身记录之上的所有数据进行计算,现在再结合刚才得到的结果(下图),是不是理解起来容易多了?

  比如0005号后面的聚合窗口函数结果是:学号0001~0005五人成绩的总和、平均、计数及最大最小值。如果想要知道所有人成绩的总和、平均等聚合结果,看最后一行即可。

  这样使用窗口函数有什么用呢?聚合函数作为窗口函数,可以在每一行的数据里直观的看到,截止到本行数据,统计数据是多少(最大值、最小值等)。同时可以看出每一行数据,对整体统计数据的影响。

四、注意事项

  partition子句可以省略,省略就是不指定分组,结果如下,只是按成绩由高到低进行了排序

select *,
   rank() over (order by 成绩 desc) as ranking
from 班级表

   但是,这就失去了窗口函数的功能,所以一般不要这么使用。

五、窗口函数相关总结

1、窗口函数语法

<窗口函数> over (partition by <用于分组的列名>
                order by <用于排序的列名>)

  <窗口函数>的位置,可以放以下两种函数:

(1)专用窗口函数,比如rank, dense_rank, row_number等   -  对并列排行的不同处理

(2)聚合函数,如sum. avg, count, max, min等   -  自身记录加上之前记录的处理

2、窗口函数有以下功能:

(1)同时具有分组(partition by)和排序(order by)的功能

(2)不减少原表的行数,所以经常用来在每组内排名   -  group by 会减少原表行数

3、注意事项

(1)窗口函数原则上只能写在select子句中

(2)partition子句可以省略,省略就是不指定分组,但是,这就失去了窗口函数的功能,所以一般不要这么使用。

4、窗口函数使用场景

(1)业务需求“在每组内排名”,比如:排名问题:每个部门按业绩来排名;topN问题:找出每个部门排名前N的员工进行奖励。

六、SQL面试题:经典topN问题

  工作中会经常遇到这样的业务问题:如何找到每个类别下用户点击最多的5个商品是什么?这类问题其实就是常见的:每组最大的N条记录(topN)。

1、题目:现有“成绩表”,记录了每个学生各科的成绩。

2、问题:查找每个学生成绩最高的2个科目。

3、解题思路:

(1)看到问题中要查“每个”学生最高的成绩。还记得我们之前课程里讲过的吗?当有“每个”出现的时候,就要想到是要分组了。这里是“每个学生”,结合表的结构,是按学生“姓名”来分组。

(2)将表按学生姓名分组后,把成绩按降序排列,排在最前面的2个就是我们要找的“成绩最高的2个科目”。

(3)现在分组后,需要排序,又不减少原表的行数,这种功能自然想到是窗口函数。

(4)使用哪个专用窗口函数?为了不受并列成绩的影响,使用row_number专用窗口函数

4、解题步骤:

(1)步骤一:按姓名分组(partiotion by 姓名)、并按成绩降序排列(order by 成绩 desc),套入窗口函数的语法,就是下面的sql语句:

select *, 
      row_number() over (partition by 姓名
                   order by 成绩 desc) as ranking
from 成绩表

(2)步骤二:如上表黄色框内的数据,每个同学成绩最好的2个科目,就是要求的解。想得到这个解,只要提取出“ranking”值小于等于2的数据就可以了。那么,只需要在上一步的slq语句里加入条件字句where就可以了

select *, 
      row_number() over (partition by 姓名
                   order by 成绩 desc) as ranking
from 成绩表
where ranking <=2

  很多同学都会用这样的思路解题,但是这样写,sql会报错,为什么呢?

  要牢记sql的书写顺序和运行顺序。在运行顺序中,select字句是最后被运行的。

  当明白了运行顺序以后,就知道错误的原因了:运行到”where ranking > 2”的时候,因为select字句还没有被执行,因此select中的“ranking”列还没有出现,从而导致报错。

5、解决方法是什么呢?

  这种情况就可以用子查询,也就是把第一步得到查询结果作为一个新的表,sql语句如下:

select *
from (
   select *, 
          row_number() over (partition by 姓名
                       order by 成绩 desc) as ranking
   from 成绩表) as a
where ranking <=2

6、考点

(1)主要考查对窗口函数的灵活使用。

(2)在筛选过程中,非常容易因为子查询问题报错,本题也考察了对子查询的熟练运用。

(3)本题间接考察了对sql语句执行顺序的熟悉程度。

7、经典topN问题:每组最大的N条记录。

  这类问题涉及到“既要分组,又要排序”的情况,要能想到用窗口函数来实现。本题的sql语句修改下(将where字句里的条件修改成N),就可以成为这类问题的一个万能模板,遇到这类问题往里面套就可以了:

// topN问题 sql模板
select *
from (
   select *, 
          row_number() over (partition by 要分组的列名
                       order by 要排序的列名 desc) as ranking
   from 表名) as a
where ranking <= N

原文链接:https://zhuanlan.zhihu.com/p/93346220

posted @ 2017-09-03 13:19  古兰精  阅读(997)  评论(0编辑  收藏  举报