易观OLAP算法大赛结果揭晓,开源组黑马放大招!
100+天激烈赛程,40+国内顶级技术豪门对决,历经研发内部测试、正式环境测试和易观数据正式环境跑benchmark三大阶段。10月28日,易观OLAP算法大赛优胜名单出炉!
40+技术门派比武
易观OLAP大赛可谓国内算法界“武林大会”,英雄帖一发出就引起互联网各大技术门派积极响应。
吸引来自美团点评、阿里云、小米、链家、搜狗、科大讯飞、联通、原速数据、乐见、AggreData、GBase 、Kyligence、PingCAP、LinkDoc、iflytek、hulu、上海睿民、热云数据、润乾、帆软软件、咪咕音乐、杭州玳数科技、上海跬智、千丁互联、北京健科云网、广州向量线科技、乐享天下、牛办科技、北京邮电大学、北京交通大学等40多家知名企业、科研单位和个人报名参加。
6组算法新人王诞生
本次易观OLAP算法大赛分为商业组和开源组两个组别进行,从7月开放报名到10月正式环境跑benchmark。经过重重考验,终于决出6组易观OLAP算法新人王:
商业组三甲:
第一名:PingCAP
PingCAP 是国内第一家开源的新型数据库公司,其产品分布式高可用数据库 TiDB 支持水平扩展,兼容MySql,支持分布式事务,是大数据时代理想的数据库集群和云数据库解决方案之一。在本次比赛中,PingCAP使用自主研发的 Magic 引擎,使用多层pipeline、智能并发等技术,以极致速度对数据进行暴力扫描,实现了良好的计算效果,因此获得商业组第一名的好成绩。
第二名:帆软软件
帆软团队在本次参赛使用的是帆软自主研发的直连分布式引擎。分布式存储系统基于Alluxio和HDFS,采用列式存储方案,以Spark作为基础,基于流式计算,辅以高性能查询算法,为直连引擎提供强劲的查询支持。面对亿级数据和多维度复杂场景时,直连分布式引擎能大幅提高有序漏斗的计算的效率和准确性。
第三名:GBase
GBase此次参赛用的是自己的产品GBase 8a MPP Cluster。GBase 8a采用行列混合存储,可处理PB级别以上的结构化数据。同时采用先进的数据压缩算法,有效提高IO性能。在数据处理上采用完全并行的MPP + Share Nothing的分布式架构,支持高并发,因此在有序漏斗的实时计算中效率较高。
易观OLAP算法大赛商业组颁奖仪式
开源组三甲:
第一名:广州向量线科技 韦万和李本旺
在开源组比赛中韦万和李本旺另辟蹊径,向北取经。使用目前国内鲜为人知的俄罗斯神级开源软件ClickHouse参赛。利用ClickHouse超强分析性能和灵活的架构特点,使得集群间节点的计算完全并行化,同时优化底层的存储和上层的计算细节,挖掘CPU cache、向量化执行和具体算法优化方面的潜力。凭借在时效和精度上的优异表现,韦万和李本旺团队成为本届大赛最大黑马,获得开源组第一名。
第二名:美团点评 孙业锐
美团点评团队基于自身的业务优势经验,设计了本次参赛的解题思路。用bitmap快速过滤和基于时间戳序列匹配的算法,利用Apache Spark、Alluxio等开源框架快速落地实现,使用了一系列工程优化方法,在每日数百亿条日志和百万属性的数据集上,实现有序漏斗的秒级查询。在易观正式数据环境中,在26亿数据,400万用户,几十个属性的场景下,美团点评团队均实现了快速查询。
第三名:北京邮电大学 卢跃凯
易观OLAP算法大赛还吸引了来自计算机名门高校的个人选手。北京邮电大学的研究生卢跃凯,采用了HDFS作为储存,将Spark作为数据预处理和核心过滤算法实现。借鉴最长递增子序列的存储和更新思想,将查找每个用户转化率的时间复杂度变为了0(n),提升了漏斗计算的效率。
易观OLAP算法大赛开源组颁奖仪式
开源组10万元现金奖励
易观OLAP大赛为每组前三名的团队颁发获奖证书,同时开源组第一名还将获得UCloud提供的10万元现金奖励。据悉,韦万和李本旺获得开源组第一名后注册了自己的公司,将对算法技术进行更深入的研究和落地实践。
开源组第一名10万元现金奖励授予仪式
赛制公正具有含金量
2017易观OLAP算法大赛在“有序漏斗”的实时计算效率和精确度上得到突破性的好成绩,这离不开易观海量的数据支撑以及UCloud强大的技术支持。
一直以来,UCloud都是易观良好的合作伙伴,本次大赛UCloud为所有参赛团队提供了稳定的底层IT计算资源服务。比赛在4台UCloud云主机16核、16G内存、SSD数据盘300G硬件的环境下进行。比赛时现给出8个不同的场景,同时开始计时,每个场景的运行时间须在8分钟以内,8个场景总体比赛时间在1小时内,以此考察参赛团队在不同场景下的实时计算精度和用时效率。每个场景根据事件的数量、事件的复杂程度、事件的属性、时间窗口的大小等差异赋予不同的权重。总分为单个场景乘以该场景权重的累加所得。在8个场景中,运行时间最短且精确度最高的队伍获胜。在正式数据环境开跑阶段,还进行全程录像,确保比赛成果的含金量。
作为易观A10峰会的重要项目,OLAP算法大赛不仅为技术黑马提供大展拳脚的道场,同时还为行业挖掘出更多技术型人才和更优秀解决方案。做技术领域的“伯乐”,让世界看到更多“黑马”,易观致力于推进大数据应用创新。未来,易观OLAP大赛取得的成果将用于数据产品的研发当中,从技术应用层面实践“数以致用”。