Canal——Canal-Adapter源码在IDEA部署运行

 

一、下载源码

我这里用的是canal-1.1.4版本

  • 源码结构

client-adapter项目就是本次要部署运行的

  • 源码导入到IDEA中的结构如下:

 

二、安装配置

  • 找到manven模块中有root的那个模块,然后点击install进行安装

待安装完成后,会在对应的项目的target目录下产生相应的运行包,如果不想在开发工具中运行的话,直接拷贝对应的包即可。

  • 修改launcher的application.yml配置

  • es adapter配置

在launcher项目中的配置文件下创建es目录并加入所需要同步的配置文件

 

三、运行调试

配置完毕后,直接运行launcher这个springBoot项目即可,也就是运行CanalAdapterApplication这个类就可以了。

 当看日志提示启动成功后就代表启动成功了!

 

四、测试验证

增量同步测试跟canal-adapter安装包部署运行一样,这里主要介绍及测试一下条件同步全量同步功能,即etl功能。

launcher项目是一个spring boot项目,在其中的rest包下有一个controller类(CommonRest.java),里面提供了一些接口,其中一个用于全量同步数据的接口

  • canal全量同步

我们按照注释的内容发送一个http请求即可:

 canal_db1.yml为es目录下的配置文件,运行后出现以下提示信息,就可以让canal_db1.yml配置的数据表的所有数据全同步到es中了

 在kibana中查看数据是否已经生成:

  • canal条件同步

如果想执行从某一个时刻的数据同步,在上面的测试URL后加上对应的参数就可以了

其参数由es的配置项决定的,以下截图的配置文件中的etlCondition:

 

 

五、修改源码

以下代码增加了从索引模板中获取mapping的处理逻辑:

重新编译打包:

在项目的target目录下,会生成编译后的包,我这里修改的是es相关的,路径如下:

 

更新到canal-adapter的plugin目录下,重新服务就可以了。

 

posted on 2019-11-30 10:45  曹伟雄  阅读(4776)  评论(2编辑  收藏  举报

导航