tidb的组件ticdc传输数据到kafka
环境:tidb4.0.8、centos7.6
1、tidb扩容ticdc
1. 添加节点信息到 scale-out.yaml 文件
1 2 3 4 5 | cdc_servers: - host: 172.168.20.51 port: 8300 deploy_dir: "/data1/tidb-deploy/cdc-8300" log_dir: "/data1/tidb-deploy/cdc-8300/log" |
2、运行扩容命令
1 | tiup cluster scale-out tidb scale-out.yaml |
2、ticdc创建kafka同步任务
1 2 3 | tiup cdc cli changefeed create --pd=http: //172 .168.20.49:2379 --sink-uri= "kafka://127.0.0.1:9092/cdc-test?kafka-version=2.4.0&partition-num=6&max-message-bytes=67108864&replication-factor=1" Create changefeed successfully! ID: simple-replication-task |
3、常用命令
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 | 查询同步任务列表: tiup cdc cli changefeed list --pd=http: //172 .168.20.49:2379 停止同步任务: tiup cdc cli changefeed pause --pd=http: //172 .168.20.49:2379 --changefeed- id simple-replication-task 以上命令中: --changefeed- id =uuid 为需要操作的 changefeed ID。 恢复同步任务: tiup cdc cli changefeed resume --pd=http: //172 .168.20.49:2379 --changefeed- id simple-replication-task 删除同步任务: tiup cdc cli changefeed remove --pd=http: //172 .168.20.49:2379 --changefeed- id simple-replication-task 删除任务后会保留任务的同步状态信息 24 小时(主要用于记录同步的 checkpoint),24 小时内不能创建同名的任务。如果希望彻底删除任务信息,可以指定 --force 或 -f 参数删除,删除后 changefeed 的所有信息都会被清理,可以立即创建同名的 changefeed。 tiup cdc cli changefeed remove --pd=http: //172 .168.20.49:2379 --changefeed- id |
做一个决定,并不难,难的是付诸行动,并且坚持到底。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 【杭电多校比赛记录】2025“钉耙编程”中国大学生算法设计春季联赛(1)
2020-09-15 mysql慢日志使用mysqldumpslow进行分析