tidb的组件ticdc传输数据到kafka

环境:tidb4.0.8、centos7.6

1、tidb扩容ticdc
    1. 添加节点信息到 scale-out.yaml 文件

1
2
3
4
5
cdc_servers:
  - host: 172.168.20.51
    port: 8300
    deploy_dir: "/data1/tidb-deploy/cdc-8300"
    log_dir: "/data1/tidb-deploy/cdc-8300/log"

   2、运行扩容命令

1
tiup cluster scale-out tidb scale-out.yaml
2、ticdc创建kafka同步任务
1
2
3
tiup cdc cli changefeed create --pd=http://172.168.20.49:2379 --sink-uri="kafka://127.0.0.1:9092/cdc-test?kafka-version=2.4.0&partition-num=6&max-message-bytes=67108864&replication-factor=1"
Create changefeed successfully!
ID: simple-replication-task

3、常用命令

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
查询同步任务列表:
tiup cdc cli changefeed list --pd=http://172.168.20.49:2379
 
 
停止同步任务:
tiup cdc cli changefeed pause --pd=http://172.168.20.49:2379 --changefeed-id simple-replication-task
 
以上命令中:
--changefeed-id=uuid 为需要操作的 changefeed ID。
恢复同步任务:
tiup cdc cli changefeed resume --pd=http://172.168.20.49:2379 --changefeed-id simple-replication-task
 
 
删除同步任务:
tiup cdc cli changefeed remove --pd=http://172.168.20.49:2379 --changefeed-id simple-replication-task
 
       删除任务后会保留任务的同步状态信息 24 小时(主要用于记录同步的 checkpoint),24 小时内不能创建同名的任务。如果希望彻底删除任务信息,可以指定 --force 或 -f 参数删除,删除后 changefeed 的所有信息都会被清理,可以立即创建同名的 changefeed。
tiup cdc cli changefeed remove --pd=http://172.168.20.49:2379 --changefeed-id

  

  

  

  

posted @   苍茫宇宙  阅读(631)  评论(0编辑  收藏  举报
编辑推荐:
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 【杭电多校比赛记录】2025“钉耙编程”中国大学生算法设计春季联赛(1)
历史上的今天:
2020-09-15 mysql慢日志使用mysqldumpslow进行分析
点击右上角即可分享
微信分享提示