摘要:
本文目标 制作PostgreSQL-15.1绿色版,简化以后搭建测试环境。 内置数据库test 内置用户test,密码test,可远程登陆,管理员权限 ./start.sh 启动 ./stop.sh 停止 ./cmd.sh test用户和库的命令行 ./admin.sh 超级用户权限命令行 yum安 阅读全文
摘要:
本文目标 Flink消费DBZ推送到Kafka的JSON数据,存入PostgreSQL 创建kafka的映射表 CREATE TABLE t1_kafka ( f1 BIGINT NOT NULL, f2 STRING, f3 TIMESTAMP(0) METADATA FROM 'value.so 阅读全文
摘要:
本文目标 使用FLinkCDC实时同步源表和目标表。 为了减少依赖,本文只用到了MySQL+FLinkCDC,源表和目标表都在MySQL内,FLink数据抽取和入库,没有经过Kafka。 部署启动 相关程序 flink-1.14.6-bin-scala_2.12.tgz #flink主程序 flin 阅读全文
摘要:
本文目标 debezium,简称dbz,伪装为MySQL从库,当主库发生变化后,主库会主动将变化的信息同步到dbz内,dbz将收到的信息转为JSON推送到Kafka内。 安装JDK11 yum -y install java-11-openjdk-devel 解压部署 tar xfz debeziu 阅读全文
摘要:
本文目标 部署Kafka,用来作为数据同步通道 启动kafka tar xfz kafka_2.12-3.3.1.tgz cd kafka_2.12-3.3.1/bin ./zookeeper-server-start.sh -daemon ../config/zookeeper.propertie 阅读全文
摘要:
本文目标 部署一个MySQL测试库,并且设置为master,启用binlog,用来作为数据同步的源库 MySQL8开启binlog 参考:https://debezium.io/documentation/reference/2.0/connectors/mysql.html#enable-mysq 阅读全文
摘要:
流式同步测试总架构图说明 准备基础测试环境 内网环境同步(MySQL+FlinkCDC) 异地环境同步(MySQL+Kafka+PostgreSQL) 相关实现参加本文相关文章 阅读全文