大疆车载从多家数据库中选定 TDengine
小 T 导读:为了满足智能驾驶业务的数据处理需求,大疆车载试图从多家数据库中进行选型调研,帮助智能驾驶业务提升写入查询性能、降低运维成本。本文将分享大疆车载在数据库选型、系统搭建和业务迁移等方面的经验。
根据国家发改委、科技部、工信部等 11 个部门联合印发的《智能汽车创新发展战略》,到 2025 年,中国标准智能汽车的技术创新、产业生态、基础设施、法规标准、产品监管和网络安全体系基本形成。同时,实现有条件智能驾驶的智能汽车达到规模化生产,实现高度智能驾驶的智能汽车在特定环境下市场化应用。目前,随着我国正在积极发展智能网联汽车,无人驾驶技术进一步推动,互联网巨头企业进入市场、加大投入研发技术,无人驾驶市场正处于快速发展阶段。无人机头部企业大疆车载也在去年 4 月份宣布进入智能驾驶领域。
由于当前的智能驾驶业务还是新的业务场景,所以大疆车载在选型上的历史负担相对较轻。在 Database 选型要求上,从业务需求出发,主要聚焦在两点:首先,结合当下的业务场景,需要满足单台车辆的高频消息上报频率;其次,支持在数据量大的时候,通过聚合函数,或选择函数来快速筛选出需要的数据。
此外,对数据库要求支持集群部署的同时,也要求更低的查询语句编写上手难度;而且需支持单表千万量级,在海量数据并发场景下,需要有较高的统计报表能力和较好的查询 SQL 效率;最后通过数据压缩、运维成本和并发能力上的考量,最终选定 TDengine 来存储海量数据。
综合来看,TDengine 满足需求的主要原因如下:
- 国产、开源的时序数据库(Time Series Database)
- 开源版支持分布式集群,方便扩展
- 列式存储,数据压缩比率高,读写性能优秀
- 一个设备一张表,对应我们一个车辆一张表,模型契合
- 超级表对于分组聚合查询的强大支持能力
TDengine 建表思路
作为智能驾驶领域的创新者之一,大疆车载为汽车主机厂提供了软硬一体的智能驾驶解决方案。其中,车辆云端平台负责对车辆状态信息进行监控,具体包括 GPS、速度、转速、里程等,经由 MQTT 流转到 TDengine 存储,满足车辆历史轨迹回放和车辆实时状态监控。
车辆消息样例数据展示如下:
{"message_id": "a78b6d9a","device_key": "deviceKey2","ts": "2022-03-01 15:01:59","longitude": 123.9795647512915,"latitude": 21.58338210717887,"altitude": 51.47800064086914,"signal_strength": 12,"satellites_in_view": 21,"speed": 72.798225,"acceleration": 12,"rpm":2190,"gear": "D","direction": -91.32959,"mileage": 10020,"ip": "10.1.2.3","create_time": "2022-03-01 15:02:03",}
落脚到实际业务上,我们搭建的表结构如下:
我们落地使用的是 TDengine 2.2.1.3 单机版 ,按照车辆唯一的标识 DeviceKey 来创建子表,如 device_stat_$deviceKey,一个车辆的状态信息都存在一张子表中。mqtt_msg 超级表也是一样的逻辑,也是以 DeviceKey 来创建子表。
架构与迁移
除了上报的 GPS、速度等,App 端还会和车辆/设备之间进行大量的命令交互,如下发车辆指令操作,这些我们也是使用 TDengine 来进行存储和链路追踪的。具体到链路消息追踪的使用上,我们会将设备与云端、云端与 App 之间双向通信的 MQTT 消息转发到 Kafka 消息队列中,然后业务系统进行消费解析,得到 TraceID、消息 ID、消息版本、消息类型、消息时间戳、消息内容等不同字段的数据,然后将其写入 TDengine 的 mqtt_msg 超级表当中。
除了写入以外,我们也有一定量的查询操作,但是整体上还是以写入为主,目前 TDengine 的性能完全可以满足我们的需求。不过文本类的检索并不是 TDengine 最擅长的场景,于是我们接入了 ES 提供部分服务。
由于是项目初期,目前我们暂时还在使用 TDengine 和 MySQL 双写新数据,把 MySQL 的 SQL 和 TDengine 的 SQL 做了映射关系,从而实现将历史数据以日志回放的方式迁移到 TDengine 中去。因此,目前两个库暂时可以互为备份,后面等业务完全迁移后,我们就可以使用 TDengine 的集群多副本功能来完成数据备份了。
此外,涛思数据的工作人员也提供了另外两种数据迁移方案供我们参考:一是利用 csv 文件的导出导入。二则是基于一款开源的数据库迁移工具 DataX,该工具目前已经完成了关系型数据库(Relational Database)到 TDengine 的适配,实现了 TDengineReader 和 TDengineWriter 两个插件,迁移时只要做好相应的 json 文件配置即可。
性能展示
在应用 TDengine 之后,车辆的实时状态查询变得十分简单,具体展示如下:
1. 查询单个车辆的上报的最新位置状态
select last_row(*) from device_stat_deJgTAEzInsZeGLM\G;
2. 多个车辆的最新位置状态查询
select last_row(*) from device_stat where device_key in ('mpVOGpaHqAxGiHWo','HEChzTCZeIWSUysB','HgsIdzvJPeFlVDuT','LVaPHOXkEeTGjTpm','PFHnQCkcXCIBnbsC') group by device_key;
对于车辆历史时间区间内的状态查询,也可以极快地返回结果,用以进行前端分析。
select * from device_stat_mpVOGpaHqAxGiHWo where ts >'2022-03-17 00:00:00' and ts < '2022-03-18 00:00:00';
3. 进行 MQTT 消息追踪时,查询 MQTT Broker 收发的最新消息
select last_row(*) from mqtt_msg\G;
4. 按照 requestId 进行消息追踪
select * from mqtt_msg where request_id = 'f90c46d4-22a3-4ab9-b50a-aad8b237fc57'\G;
5. 时间区间内消息查询
select * from mqtt_msg where ts >'2022-03-18 12:00:00' and ts < '2022-03-18 13:00:00';
通过以上的查询情况汇总可以看出,TDengine 实现了一些选择特定数据的查询和轻量的查询,全部都是毫秒级返回数据,即便是 30000+ 行数据的查询,消耗也只在 1.1 秒左右。
写在最后
在当前的云端平台中,TDengine 的应用不仅节约了存储成本和开发学习成本,同时也表现出了很好的写入读取性能,满足了智能驾驶云端平台海量时序数据的处理需求。
未来我们会对海量时空数据的应用场景进行持续探索和挖掘,对于 TDengine 我们也有更多的期许,希望它能:
- 在空间数据的读写上有新的特性和更好的支持
- 拥有更加丰富的认证授权机制,提供更细粒度的权限管控
- 系统性地丰富各类日志,协助更快地定位问题
最后,祝愿 TDengine 越来越好,能够在中国庞大的时序数据处理场景中脱颖而出,成为国产数据库中的精品!
想了解更多 TDengine Database的具体细节,欢迎大家在GitHub上查看相关源代码。