数据库] Clickhouse 性能优化篇

性能优化：升级硬件配置

CPU、内存、网络、磁盘（种类、规格）

性能优化：升级软件版本

操作系统

数据库(Clickhouse)

底层软件

...

性能优化：外部高性能组件(REDIS/ES/CDN等)

借助高性能数据库（REDIS、ES等），加缓存等方式，解决查询缓慢、高并发场景。

性能优化：优化索引

主键索引/排序索引/稀疏索引/一级索引

推荐文献

ClickHouse指南-优化查询性能-主键稀疏索引最佳实践 - Clickhouse

ClickHouse 的主键索引(一级索引)采用的是稀疏索引，将每列数据按照 index granularity（默认8192行）进行划分。

稠密索引：每行数据记录都会对应一行索引标记。

稀疏索引：每隔若干行记录对应一条索引标记。索引条目相对稠密索引较少，能够将其加载到内存，而且对插入时建立索引的成本相对较小。

优点

可以大幅减少索引占用的空间。以clcikhouse默认的索引力度8192为例，1亿行数据只需要存储12208行索引(1,0000,0000÷8192=12207.03125)。

查询速度极快。因为占用空间小，clickhouse中一级索引的数据是常驻内存的，所以取用速度极快。

跳数索引/二级索引

推荐文献

深入理解ClickHouse跳数索引 - Clickhouse

跳数索引的简介

影响ClickHouse查询性能的因素很多。在大多数场景中，关键因素是ClickHouse在计算查询WHERE子句条件时是否可以使用主键。

因此，选择适用于最常见查询模式的主键对于表的设计至关重要。

然而，无论如何仔细地调优主键，不可避免地会出现不能有效使用它的查询用例。用户通常依赖于ClickHouse获得时间序列类型的数据，但他们通常希望根据其他业务维度(如客户id、网站URL或产品编号)分析同一批数据。在这种情况下，查询性能可能会相当差，因为应用WHERE子句条件可能需要对每个列值进行完整扫描。虽然ClickHouse在这些情况下仍然相对较快，但计算数百万或数十亿个单独的值将导致“非索引”查询的执行速度比基于主键的查询慢得多。
在传统的关系数据库中，解决这个问题的一种方法是将一个或多个“二级”索引附加到表上。这是一个b-树结构，允许数据库在O(log(n))时间内找到磁盘上所有匹配的行，而不是O(n)时间(一次表扫描)，其中n是行数。但是，这种类型的二级索引不适用于ClickHouse(或其他面向列的数据库)，因为磁盘上没有单独的行可以添加到索引中。
相反，ClickHouse提供了一种不同类型的索引，在特定情况下可以显著提高查询速度。这些结构被标记为跳数索引，因为它们使ClickHouse能够跳过保证没有匹配值的数据块。

跳数索引的基本操作

用户只能在MergeTree表引擎上使用数据跳数索引。每个跳数索引都有4个主要参数：

索引名称。索引名用于在每个分区中创建索引文件。此外，在删除或具体化索引时需要将其作为参数。

索引的表达式。索引表达式用于计算存储在索引中的值集。它可以是列、简单操作符、函数的子集的组合。

类型。索引的类型控制计算方法(索引函数)，该计算决定是否可以跳过读取和计算每个索引块。

ALTER TABLE dwd.dwd_device_status_ri_l on cluster default_cluster
ADD INDEX create_time_todate_shanghaitimezone_minmax_index ( toDate(create_time, 'Asia/Shanghai') ) TYPE minmax GRANULARITY 4;

ALTER TABLE dwd.dwd_device_status_ri_l on cluster default_cluster
ADD INDEX device_type_set_index device_type TYPE set(0) GRANULARITY 4;

GRANULARITY(粒度)。每个索引块由颗粒（granule）组成。

例如，如果主表的索引粒度为8192行(SETTINGS index_granularity = 8192)，GRANULARITY为4，则：每个索引“块”将为32768行。

当用户创建数据跳数索引时，表的每个数据部分的目录中将有两个额外的文件。

skpidx{index_name}.idx：包含排序的表达式值。

skpidx{index_name}.mrk2：包含关联数据列文件中的相应偏移量。

如果在执行查询、并读取相关列文件时，WHERE子句过滤条件的某些部分与跳数索引表达式匹配，ClickHouse将使用索引文件数据来确定每个相关的数据块是必须被处理还是可以被绕过(假设块还没有通过应用主键索引被排除)。

这里用一个非常简单的示例：（参考：本文档"优化案例: 基于跳数索引的亿级数据量优化"小节）

跳数索引的种类

minmax

这种轻量级索引类型不需要参数。它存储每个块的索引表达式的最小值和最大值(如果表达式是一个元组，它分别存储元组元素的每个成员的值)。

对于倾向于按值松散排序的列，这种类型非常理想。
在查询处理期间，这种索引类型的开销通常是最小的。

这种类型的索引只适用于标量或元组表达式————索引永远不适用于返回数组或map数据类型的表达式。
适用的数据类型

数值字段

时间字段

...

Demo

ALTER TABLE dwd.dwd_device_status_ri_l on cluster default_cluster
ADD INDEX create_time_todate_shanghaitimezone_minmax_index ( toDate(create_time, 'Asia/Shanghai') ) TYPE minmax GRANULARITY 4;

ALTER TABLE dwd.dwd_device_status_ri_l on cluster default_cluster
ADD INDEX create_time_minmax_index ( create_time ) TYPE minmax GRANULARITY 4;

set(maxSize)

这种轻量级索引类型接受单个参数max_size，即每个块的值集

maxSize=0 : 允许无限数量的离散值

这个集合包含【索引块】中的所有值 (如果值的数量超过max_size则为空)。

这种索引类型适用于每组颗粒中基数较低(本质上是“聚集在一起”)但总体基数较高的列。

该索引的成本、性能和有效性取决于块中的基数。
如果每个索引块包含大量惟一值，那么：针对大型索引集计算查询条件将非常昂贵；或由于索引超过max_size而为空，此时索引将不被应用。

Bloom Filter Types

Bloom filter是一种数据结构，它允许对集合成员进行高效的是否存在测试，但代价是有轻微的误报。在跳数索引的使用场景，假阳性不是一个大问题，因为惟一的问题只是读取一些不必要的块。潜在的假阳性意味着索引表达式应该为真，否则有效的数据可能会被跳过。
因为Bloom filter可以更有效地处理大量离散值的测试，所以它们可以适用于大量条件表达式判断的场景。
特别的是Bloom filter索引可以应用于数组，数组中的每个值都被测试，也可以应用于map，通过使用mapKeys或mapValues函数将键或值转换为数组。
有3种基于Bloom过滤器的数据跳数索引类型：

基本的bloom_filter

接受一个可选参数，该参数表示在0到1之间允许的“假阳性”率(如果未指定，则使用0.025)。

更专业的tokenbf_v1：

需要3个参数，用来优化布隆过滤器：
（1）过滤器的大小字节(大过滤器有更少的假阳性，有更高的存储成本)，
（2）哈希函数的个数(更多的散列函数可以减少假阳性)。
（3）布隆过滤器哈希函数的种子。
有关这些参数如何影响布隆过滤器功能的更多细节，请参阅这里。
此索引仅适用于String、FixedString和Map类型的数据。
输入表达式被分割为由非字母数字字符分隔的字符序列。
例如，列值This is a candidate for a "full text" search将被分割为This is a candidate for full text search。
它用于LIKE、EQUALS、in、hasToken()和类似的长字符串中单词和其他值的搜索。
例如，一种可能的用途是在非结构的应用程序日志行列中搜索少量的类名或行号。

更专业的ngrambf_v1

该索引的功能与tokenbf_v1相同。
在Bloom filter设置之前需要一个额外的参数，即要索引的ngram的大小。
一个ngram是长度为n的任何字符串。
比如如果n是4，A short string会被分割为A sh`` sho, shor, hort, ort s, or st, r str, stri, trin, ring。
这个索引对于文本搜索也很有用，特别是没有单词间断的语言，比如中文。

跳数索引函数支持情况

跳数索引核心目的是限制流行查询分析的数据量。鉴于ClickHouse数据的分析特性，这些查询的模式在大多数情况下都包含函数表达式。

因此，跳数索引必须与常用函数正确交互才能提高效率。
这种情况可能发生在:

插入数据、并将索引定义为一个函数表达式(表达式的结果存储在索引文件中)或者

处理查询，并将表达式应用于存储的索引值，以确定是否排除数据块。
每种类型的跳数索引支持的函数列表可以查看这里。
通常，set索引和基于Bloom filter的索引(另一种类型的集合索引)都是无序的，因此不能用于范围。
相反，minmax索引在范围中工作得特别好，因为确定范围是否相交非常快。
部分匹配函数LIKE、startsWith、endsWith和hasToken的有效性取决于使用的索引类型、索引表达式和数据的特定形状。

在使用where条件查询时，如果where条件表达式中包含跳数索引列，ClickHouse会在执行函数时尝试使用索引。
不同的函数对索引的支持是不同的，其中 set 索引对所有函数都生效，其他跳数索引支持如下：

https://clickhouse.com/docs/en/engines/table-engines/mergetree-family/mergetree#functions-support

※ 注意：参数小于ngram大小的常量函数不能被ngrambf_v1用于查询优化。

例如，ngrambf_v1的参数n为5，即5元短语，则 where like 'ab%' 不能被优化。

因为布隆过滤器存在误报率，所以 ngrambf_v1, tokenbf_v1, 和 bloom_filter 不能用于优化结果逻辑为False的查询。

例如，下面查询语句可以优化：

s LIKE '%test%'
NOT s NOT LIKE '%test%'
s = 1
NOT s != 1
startsWith(s, 'test')

例如，下面的语句不能被优化：

NOT s LIKE '%test%'
s NOT LIKE '%test%'
NOT s = 1
s != 1
NOT startsWith(s, 'test')

因为布隆过滤器可以明确地判断该条语句是不存在，但是却不能明确地判断一定是存在的，所以对于返回存在like后数据的块还需要全部解压扫描。

所有跳数索引的原则都是“排除法”，即尽可能的排除那些一定不满足条件的索引粒度。在写查询where条件时也要基于这一原则考虑。

跳数索引的相关配置

有两个可用的设置可应用于跳数索引。

use_skip_indexes

(0或1，默认为1)。
不是所有查询都可以有效地使用跳过索引。
如果一个特定的过滤条件可能包含很多颗粒，那么应用数据跳过索引将导致不必要的、有时甚至是非常大的成本。
对于不太可能从任何跳过索引中获益的查询，将该值设置为0。

force_data_skipping_indexes

(以逗号分隔的索引名列表)。
此设置可用于防止某些类型的低效查询。
在某些情况下，除非使用跳过索引，否则查询表的开销太大，如果将此设置与一个或多个索引名一起使用，则对于任何没有使用所列索引的查询将返回一个异常。这将防止编写糟糕的查询消耗服务器资源。

跳数索引的最佳实践

跳数索引并不直观，特别是对于来自RDMS领域并且习惯二级行索引或来自文档存储的反向索引的用户来说。

要获得任何优化，应用ClickHouse数据跳数索引必须避免足够多的颗粒读取，以抵消计算索引的成本。
关键是，如果一个值在一个索引块中只出现一次，就意味着整个块必须读入内存并计算，而索引开销是不必要的。

考虑以下数据分布：

假设主键/Order是时间戳，并且在visitor_id上有一个索引。考虑下面的查询:

SELECT timestamp, url FROM table WHERE visitor_id = 1001

对于这种数据分布，传统的二级索引非常有利。不是读取所有的32678行来查找具有请求的visitor_id的5行，而是二级索引只包含5行位置，并且只从磁盘读取这5行。ClickHouse数据跳过索引的情况正好相反。无论跳转索引的类型是什么，visitor_id列中的所有32678值都将被测试。

因此，试图通过简单地向键列添加索引来加速ClickHouse查询的冲动通常是不正确的。
只有在研究了其他替代方法之后，才应该使用此高级功能，例如修改主键(查看如何选择主键)、使用投影或使用实体化视图。

即使跳数索引是合适的，也经常需要对索引和表进行仔细的调优。

在大多数情况下，一个有用的跳数索引需要主键和目标的非主列/表达式之间具有很强的相关性。如果没有相关性(如上图所示)，那么在包含数千个值的块中，至少有一行满足过滤条件的可能性很高，并且只有几个块会被跳过。相反，如果主键的值范围(如一天中的时间)与潜在索引列中的值强相关(如电视观众年龄)，则最小值类型的索引可能是有益的。注意，在插入数据时，可以增加这种相关性，方法是在sort /ORDER by键中包含额外的列，或者以在插入时对与主键关联的值进行分组的方式对插入进行批处理。例如，即使主键是一个包含大量站点事件的时间戳，特定site_id的所有事件也都可以被分组并由写入进程插入到一起，这将导致许多只包含少量站点id的颗粒，因此当根据特定的site_id值搜索时，可以跳过许多块。
跳数索引的另一个候选者是高基数表达式，其中任何一个值在数据中都相对稀疏。一个可能的例子是跟踪API请求中的错误代码的可观察性平台。某些错误代码虽然在数据中很少出现，但对搜索来说可能特别重要。error_code列上的set skip索引将允许绕过绝大多数不包含错误的块，从而显著改善针对错误的查询。
最后，关键的最佳实践是测试、测试、再测试。同样，与用于搜索文档的b-树二级索引或倒排索引不同，跳数索引行为是【不容易预测】的。将它们添加到表中会在数据摄取和查询方面产生很大的成本，这些查询由于各种原因不能从索引中受益。它们应该总是在真实世界的数据类型上进行测试，测试应该包括类型、粒度大小和其他参数的变化。测试通常会暴露仅仅通过思考不能发现的陷阱。

优化案例: 基于跳数索引的亿级数据量优化

仅以本地表为例，参考自clcikhouse官网案例

创建表

DROP TABLE skip_table;
CREATE TABLE skip_table (
  my_key UInt64,
  my_value UInt64
)
ENGINE MergeTree primary key my_key
SETTINGS index_granularity=8192;

插入数据

1 0000 0000 条

INSERT INTO skip_table SELECT number, intDiv(number,4096) FROM numbers(100000000);

查询数据

-- 查询 (125, 700)
SELECT * FROM skip_table WHERE my_value IN (125, 700)

资源占用情况：

system.query_log 表

耗时(query_duration_ms) : 26-27ms

读取行数(read_rows) : 9991 8080 条

结果行数(result_rows) : 4096

内存使用(memory_usage) : 0

跳数索引优化

-- 增加一个基本的跳数索引：
-- 通常，跳数索引只应用于新插入的数据，所以仅仅添加索引不会影响上述查询。
ALTER TABLE skip_table ADD INDEX vix my_value TYPE set(100) GRANULARITY 2;

-- ALTER TABLE skip_table DROP INDEX vix; -- 删除索引
--show create table skip_table; -- 查看表的索引

-- 要使已经存在的数据生效，那执行：
ALTER TABLE skip_table MATERIALIZE INDEX vix;

优化后，重查SQL

-- 重跑 SQL
SELECT * FROM skip_table WHERE my_value IN (125, 700)

资源占用情况：

system.query_log 表

耗时(query_duration_ms) : 14-18 ms

读取行数(read_rows) : 3 2768 条

结果行数(result_rows) : 8192

内存使用(memory_usage) : 0

这次没有再去处理1亿行800MB的数据，ClickHouse只读取和分析32768行360KB的数据—4个granule的数据。

下图是更直观的展示，这就是如何读取和选择my_value为125的4096行，以及如何跳过以下行而不从磁盘读取:

通过在执行查询时启用跟踪，用户可以看到关于跳数索引使用情况的详细信息。在clickhouse-client中设置send_logs_level:

SET send_logs_level='trace';

这将在尝试调优查询SQL和表索引时提供有用的调试信息。

上面的例子中，调试日志显示跳数索引过滤了大部分granule，只读取了两个:

<Debug> default.skip_table (933d4b2c-8cea-4bf9-8c93-c56e900eefd1) (SelectExecutor): Index `vix` has dropped 6102/6104 granules.

参考文献

https://clickhouse.com/docs/zh/guides/improving-query-performance/skipping-indexes

性能分析

`system.query_log`表

简介

此表包含已执行查询的相关信息，例如：开始时间、处理持续时间、错误消息。
您可以更改query_log的设置，在服务器配置的 query_log 部分。
您可以通过设置 log_queries=0来禁用query_log. 我们不建议关闭此日志，因为此表中的信息对于解决问题很重要。
数据刷新的周期可通过 flush_interval_milliseconds 参数来设置 query_log 。要强制刷新，请使用 SYSTEM FLUSH LOGS。
ClickHouse不会自动从表中删除数据。更多详情请看 introduction 。
system.query_log 表注册两种查询:

客户端直接运行的初始查询。

由其他查询启动的子查询（用于分布式查询执行）。对于这些类型的查询，有关父查询的信息显示在 initial_* 列。

每个查询在query_log 表中创建一或两行记录，这取决于查询的状态（见 type 列）:

如果查询执行成功，会创建type分别为QueryStart 和 QueryFinish 的两行记录。
如果在查询处理过程中发生错误，会创建type分别为QueryStart 和 ExceptionWhileProcessing 的两行记录。
如果在启动查询之前发生错误，则创建一行type为ExceptionBeforeStart 的记录。

最佳实践: 性能分析SQL

select 
	-- *
	type, query_kind, event_time , event_date  , query_duration_ms
	-- read_rows : 从参与了查询的所有表和表函数读取的总行数
	-- result_rows : SELECT 查询结果的行数，或INSERT 的行数
	, query, is_initial_query, http_method, query_id, read_rows, result_rows, memory_usage
    , databases , tables , columns 
from system.query_log -- select * from system.query_log
where 1=1
	and event_date = '2024-11-14'
	-- and query_start_time >= '2024-11-06 00:00:00'
	and arrayExists(x -> coalesce(x, '') in ('test.dwd_xxxx_ri_d' ), `tables`) > 0
	and is_initial_query in ( 1 ) -- 1:客户端发起的查询 / 0 : 由另一个查询发起的，作为分布式查询的一部分
	and http_method in (0 , 1, 2) -- 发起查询的HTTP方法 | 0:TCP / 1:GET / 2:POST
	
	-- 执行查询时的事件类型
	-- QueryStart = 1 : 查询成功启动 / 'QueryFinish' = 2 : 查询成功完成 / 'ExceptionBeforeStart' = 3 : 查询执行前有异常 / 'ExceptionWhileProcessing' = 4 — 查询执行期间有异常
	-- and type = 2
	
	-- and query_kind  in ( 'Insert', 'Select', 'Alter' )
order by event_date desc, query_duration_ms desc 
-- limit 50

X 参考文献

Clickhouse

https://clickhouse.com

https://clickhouse.com/docs

https://clickhouse.com/docs/zh

posted @ 2024-11-14 11:30 千千寰宇阅读(93) 评论(0) 编辑收藏举报

刷新页面返回顶部

千千寰宇

大数据与Java软件开发从业者，数智化转型实践者。

[OLAP/MPP/数据库] Clickhouse 性能优化篇

性能优化：升级硬件配置

CPU、内存、网络、磁盘（种类、规格）

性能优化：升级软件版本

操作系统

数据库(Clickhouse)

底层软件

...

性能优化：外部高性能组件(REDIS/ES/CDN等)

性能优化：优化索引

主键索引/排序索引/稀疏索引/一级索引

跳数索引/二级索引

跳数索引的简介

跳数索引的基本操作

跳数索引的种类

minmax

set(maxSize)

Bloom Filter Types

跳数索引函数支持情况

跳数索引的相关配置

跳数索引的最佳实践

优化案例: 基于跳数索引的亿级数据量优化

性能分析

`system.query_log`表

简介

最佳实践: 性能分析SQL

X 参考文献

公告

千千寰宇

大数据与Java软件开发从业者，数智化转型实践者。

[OLAP/MPP/数据库] Clickhouse 性能优化篇

性能优化：升级硬件配置

CPU、内存、网络、磁盘（种类、规格）

性能优化：升级软件版本

操作系统

数据库(Clickhouse)

底层软件

...

性能优化：外部高性能组件(REDIS/ES/CDN等)

性能优化：优化索引

主键索引/排序索引/稀疏索引/一级索引

跳数索引/二级索引

跳数索引的简介

跳数索引的基本操作

跳数索引的种类

minmax

set(maxSize)

Bloom Filter Types

跳数索引函数支持情况

跳数索引的相关配置

跳数索引的最佳实践

优化案例: 基于跳数索引的亿级数据量优化

性能分析

system.query_log表

简介

最佳实践: 性能分析SQL

X 参考文献

公告

`system.query_log`表