native 向量化 大数据计算引擎

Velox（Facebook,  Intel, ByteDance字节, and Ahana）

一个旨在优化查询引擎和数据处理系统的 C++ 向量化数据库加速库。使用C++来实现Native计算引擎，追求极致的性能

https://github.com/facebookincubator/velox

https://velox-lib.io/

Presto+Velox：

Prestissimo facebook（已开源）

trino  https://github.com/trinodb/trino/issues/14237

 

Spark+Velox：

Gluten  intel 和Kyligence （已开源）

Photon   Databricks 

Spruce facebook（未开源）

 

PyTorch(TorchArrow)+Velox 

 

其他

向量数据库 Milvus

 OmniRuntime 华为

 

一种采用Native Code（C/C++）实现大数据SQL算子来提高查询性能的特性，通过列式存储和向量化执行技术，同时利用鲲鹏加速库，提升算子的执行效率，从而提升查询引擎的查询性能。

 

 

  

 

 

参考：

https://baijiahao.baidu.com/s?id=1743187016205637139&wfr=spider&for=pc  Velox 简介：开源统一执行引擎

https://zhuanlan.zhihu.com/p/543880633?utm_id=0   从Photon论文谈大数据计算引擎的Native化

https://zhuanlan.zhihu.com/p/618675658?utm_id=0   论文阅读笔记：Photon: A Fast Query Engine for Lakehouse Systems

https://www.iteblog.com/archives/10196.html 

https://github.com/prestodb/presto/pull/17575

 

https://www.51cto.com/article/713357.html