canal-admin的高可用使用

canal-admin的高可用使用,单机使用,HA使用,阿里的canal的UI界面,管理canal的实例,以及问题
  
一、软件下载
1、介绍

    canal的主要的作用就是通过MySQL的binlog日志文件,同步数据到MQ,MQ包含mysql、kafka、tcp等等
    canal-admin是一个webUI界面,通过界面配置的方式,管理canal的配置文件,方便易于管理。

2、下载

使用的有点击下载:canal.deployer-1.1.4.tar.gz  和   canal.admin-1.1.4.tar.gz

下载链接:https://github.com/alibaba/canal/releases

 
二、配置canal-admin

官网案列:https://github.com/alibaba/canal/wiki/Canal-Admin-QuickStart
1、修改配置文件

    #  在Linux的服务器中
    # 直接在服务器中下载,或者是在wind下载之后需要传到服务器上
    wget https://github.com/alibaba/canal/releases/download/canal-1.1.4/canal.admin-1.1.4.tar.gz
     
    # 解压
    mkdir /tmp/canal-admin
    tar zxvf canal.admin-1.1.4.tar.gz  -C /tmp/canal-admin
     
    # 修改配置文件
    vi conf/application.yml
     
    # 主要配置
    spring.datasource:
      address: 127.0.0.1:3306           #数据库的ip
      username: root                    #数据库的账号
      password: root                    #数据库的密码
    canal:
      adminUser: admin                  #canal-admin的账号
      adminPasswd: 123456               #canal-admin的密码(默认是admin,改成6位以上的密码)

2、初始化数据库

    # 连接上面配置的mysql数据库
    mysql -h 127.1 -u root -p
     
    --  最好在/tem/canal-admin目录下连接数据库
    >source conf/canal_manager.sql

3、启动canal-admin

    # 在bin目录里面启动:
    sh bin/startup.sh

在webUI界面查看: http://127.0.0.1:8089/ 访问,默认密码:admin/123456

 
三、配置canal-1.1.4

官网案例:https://github.com/alibaba/canal/wiki/Canal-Admin-ServerGuide
1、配置文件

canal-1.1.4的版本较之前的版本基本一样,就是在配置文件上有一点不同,在conf/目录下有两个主要的全局配置文件,一个是:canal.properties这个和之前所有版本的配置一样,还有一个是canal_local.properties这个是指定canal-admin的UI界面的。在此我们主要是使用canal_local.properties这个配置,使得canal运行之后,配置可以在webUI端快速的更改配置。

    # canal服务端的ip最好使用主机映射
    canal.register.ip = hadoop001
     
    # 这个是webUI的配置
    canal.admin.manager = 127.0.0.1:8089             #登录的ip
    canal.admin.port = 11110                         #交互的端口
    canal.admin.user = admin                         #webUI的账号
    canal.admin.passwd = 6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9  #webUI密码的暗文
    # admin auto register
    canal.admin.register.auto = true
    canal.admin.register.cluster =                #集群的名字

2、配置密码

上面配置的webUI的密码暗文需要到mysql的数据库查询的,我们配置的密码是123456,所以需要到数据库产生

    mysql> select password(123456);
    +-------------------------------------------+
    | password(123456)                          |
    +-------------------------------------------+
    | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 |
    +-------------------------------------------+
    1 row in set, 1 warning (0.00 sec)

3、启动

1)要先启动canal-admin

2)在canal-admin的UI界面配置主配置,以及server配置。参考:四、webUI的使用

3)上面步骤配置完成才能启动。在canal的安装目录/bin目录下执行startup.sh 传入参数local

    # 启动方法一:
    sh bin/startup.sh local
     
     
    # 启动方法二:
    # ---将canal_local.properties配置文件的名字改成canal.properties(删除原有的)
    sh bin/startup.sh

4、高可用(服务端高可用)

1)在多台机器上重复以上:1、配置文件;2、配置密码;3启动步骤(与UI界面的server配置要吻合)

2)个人理解集群模式也即高可用模式,一般情况下只用开启一个服务端就可以用了,而集群模式就开了多个服务,每个服务也是相互独立的(只有元数据是一样的在zookeeper保存),当手动的关闭一个服务,不会影响集群以及数据导入的,实例会在其他服务上重新启动。
四、webUI的使用

官网案例:https://github.com/alibaba/canal/wiki/Canal-Admin-Guide
1、主配置

主配置就和之前的版本的配置一样也就是canal目录下的canal.properties文件的配置。其中canal.properties:集群模式不用配置ip

2、server配置

配置基本保持默认就好
3、instance配置

canal的实例配置

instance.properties:配置如之前版本

参考配置:

https://blog.csdn.net/weixin_40126236/article/details/90474784

https://blog.csdn.net/weixin_40126236/article/details/92654961   
五、问题
1、启动顺序问题

首先canal的服务需要去canal-admin上去读取配置文件,所以canal-admin需要先启动,就是要先有UI界面,然后在启动canal服务。注意:canal的服务默认是读取本地的配置,启动时一定要加上loacl这个参数,或者改配置文件的名字。
2、元数据问题

在主配置里面canal.instance.global.spring.xml这个配置如果选择的是:

    file-instance.xml(一般是单机模式)元数据保存在conf/实例/instance.xml
    default-instance.xnl (为集群模式) 元数据保存在zookeeper里面/otter/canal/destinations   (需要配置zookeeper地址)

3、zookeeper改变

如果主配置的zookeeper地址改变了,需要修改集群的zookeeper和主配置的canal.zkServers参数,最好同时删除conf目录下的所有实例和zookeeper里面保存的所有实例。最后重启canal-admin,再重启canal服务
————————————————
 
原文链接:https://blog.csdn.net/weixin_40126236/article/details/100777543

posted @ 2021-05-21 11:01  da0h1  阅读(1269)  评论(0编辑  收藏  举报