我们该如何设计数据库(五)
最近真是忙翻天了,该是有三个月没写博客了
博客目录:Index & Writing Plan
这次的需求是在Mongo的使用中碰到的,但是我觉得把这个需求放进传统的RDBMS中更易于理解。需求是这样的:假设你数据库使用的是Sqlserver,有一张表,500W条数据,你要做一个随机在表中选择一条数据的功能
假设本文所探讨的数据结构如图(聚集索引在Pk上,UserName上加了非聚集索引):
你的第一反应大概是:哎呀妈呀忒巧了,正好主键使用的是Int自增的,我只用生成一个随机数,然后找这个随机数对应的主键就好了
实现的步骤大概是:①返回数据库中ID的最大值IdMax ②生成1到IdMax中间一个的随机数 int random = new Random().Next(1,IdMax);
③使用UserID = random作为条件查询
④如果没有查询到数据,则重新生成一个随机数,再次查找(因为某个UserID的数据可能被删除了)
这种方法简单,暴力,但是有一个致命的问题:我这里在建表的时候为了说明这种方法,所以主键使用的是Int,但是在大多数我所知道的生产环境中,其实是用Guid的。这个致命的问题会直接导致上面的那个方法不可用。
至于为什么大多数我所知道的生产环境中用Guid而不用Int,我下一篇会做出对比
既然Int在使用Guid作为主键的时候不能用,那么我们就用Row_Number吧。Sqlserver必然是支持Row_Number的,貌似Oracle和MySql中也有类似概念(不确定,问同事得到了肯定答复,没有深究)
实现的步骤大概是:①返回数据库中数据的总条数count ②生成1到count中间一个的随机数 int random = new Random().Next(1,count);
③查找Row_Number = random的那条数据
但是Row_Number有个极其不好的地方,就是查询越后面的数据越慢,越吃资源。但凡是将数据有序储存的数据库基本都有这个问题,比如说下面两条语句:
select * from (SELECT UserID,UserName,Password,Sex,City,ROW_NUMBER()OVER(ORDER BY CURRENT_TIMESTAMP) as Number FROM [User_db].[dbo].[Users] ) as query where query.Number = 20 select * from (SELECT UserID,UserName,Password,Sex,City,ROW_NUMBER()OVER(ORDER BY CURRENT_TIMESTAMP) as Number FROM [User_db].[dbo].[Users] ) as query where query.Number = 5000000
第一条查Row_Number=20的数据,logical reads 5.elapsed time = 58 ms.
第二条查Row_Number=5000000的数据,logical reads 90208.elapsed time = 900 ms.
可以明显的看出,后者的逻辑读次数多了太多,而运行速度也慢了不少。如果这个功能比较频繁使用,比如说这是向用户随机推荐好用的功能,那么这个将会成为一个性能瓶颈
有的网友说使用这句:
SELECT TOP 1 * FROM Users ORDER BY NEWID()
这个运行出来结果是正确的,但是效率却大打折扣。比如说我查到了第1336793条数据,logical reads 90208,elapsed time = 3026 ms
查看执行计划,发现Sort占用了98%:
有没有比Row_Number更好一点的方法?
答案是在表中再加一列Random列,使得数据结构变更成这样:
在添加数据的时候,就生成一个随机数插入进来。按照本篇的例子来说,一开始可以生成0到一亿之间的随机数插入。注意,要在Random上加索引
实现的步骤大概是:①插入数据的时候添加一个随机
②生成一个随机数,查询 select top(1) * from Users where Random > 随机数
③这个查询的结果可能会有多条(但不会很多),再在这个多条数据中随机筛选其一(使用Linq可以很方便的实现,不赘述)
好了,基本说完了,请允许我在结尾卖个萌:聪明的读者,开动脑筋,您还有更好的方法么?如果有,请留言
PS:马上离职了,准备回家休息2个月,有人能推荐点什么好玩点的地方么,趁有空想出去走走
/*=============================================================*/
作者:CrazyJinn
本文版权归作者和博客园共有,欢迎转载.但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利.
如果看完这篇文章让您有所收获,请点击右下角"推荐".
如果这篇文章让您觉得不知所云,或者通篇谬误,请点击右下角"反对".并且欢迎您留言给我提出宝贵的意见.
如果您想获知我最新的动态,可以在绿色通道中点击"关注我".
/*=============================================================*/