06 2022 档案
摘要:flink cdc底层抽取数据原理是按表分块,进行快照读获取所有数据,当全量数据收集完成后,继续获取binlog增量数据。 以上操作,在执行全量数据收集时,若源端数据库用户执行ddl命令(如修改表字段等),flink cdc当前阶段无法感知表结构变化。 解决方案: split reader 执行分块
阅读全文
摘要:flink 堆内存分配优化,调整堆内存相关参数 flink slot个数调整,slot个数和cpu核数正相关 源端连接池连接数与并行度保持一致(底层子任务共享连接池) 目的端数据库连接释放逻辑优化,避免内存泄漏 flink cdc debezium reader线程泄漏(任务执行完成后,线程阻塞未释
阅读全文