Azkaban安装
一、安装
1、解压安装包
azkaban-web-server-2.5.0.tar.gz azkaban-executor-server-2.5.0.tar.gz azkaban-sql-script-2.5.0.tar.gz
除了上面三个安装包,还需要安装MySQL
2、在mysql数据库中创建Azkaban的库,并导入数据
mysql> create database azkaban; mysql> use azkaban;
-- mysql> source /opt/module/azkaban/azkaban-2.5.0/create-all-sql-2.5.0.sql
3、创建SSL证书配置
因为利用web端操作,所以需要使用Java自带的Key tool工具来生成证书
在web端的根目录下运行
keytool -keystore keystore -alias jetty -genkey -keyalg RSA -keystore 指定密钥库的名称及位置(产生的各类信息将存在.keystore文件中) -genkey(或者-genkeypair) 生成密钥对 -alias 为生成的密钥对指定别名,如果没有指定默认是mykey -keyalg 指定密钥的算法 RSA/DSA 默认是DSA
4、集群时间同步
https://zhidao.baidu.com/question/750712420982178292.html
https://www.cnblogs.com/wangrx/p/6188387.html
参考
4.1安装ntpd服务
4.2修改/etc/ntp.conf配置文件
#授权192.168.1.0-192.168.1.255网段上的所有机器可以从这台机器上查询和同步时间 #restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap #改为 restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap #集群在局域网中,不使用其他互联网上的时间 #server 0.centos.pool.ntp.org iburst #server 1.centos.pool.ntp.org iburst #server 2.centos.pool.ntp.org iburst #server 3.centos.pool.ntp.org iburst #当该节点丢失网络连接,依然可以采用本地时间作为时间服务器为集群中的其他节点提供时间同步 server 127.127.1.0 fudge 127.127.1.0 stratum 10
4.3修改/etc/sysconfig/ntpd 文件
#添加 让硬件时间与系统时间一起同步 SYNC_HWCLOCK=yes
4.4启动ntpd服务并且设置为开机自启
service ntpd start
chkconfig ntpd on
4.5其他服务器开启调度任务,隔一段时间主动与时间服务器同步时间
*/10 * * * * /usr/sbin/ntpdate -u hadoop102
5、Web服务器配置
1.进入azkaban web服务器安装目录 conf目录,修改azkaban.properties文件
#Azkaban Personalization Settings #服务器UI名称,用于服务器上方显示的名字 azkaban.name=Test #描述 azkaban.label=My Local Azkaban #UI颜色 azkaban.color=#FF3601 azkaban.default.servlet.path=/index #默认web server存放web文件的目录 web.resource.dir=/opt/module/azkaban/server/web/ #默认时区,已改为亚洲/上海 默认为美国 default.timezone.id=Asia/Shanghai #Azkaban UserManager class user.manager.class=azkaban.user.XmlUserManager #用户权限管理默认类(绝对路径) user.manager.xml.file=/opt/module/azkaban/server/conf/azkaban-users.xml #Loader for projects #global配置文件所在位置(绝对路径) executor.global.properties=/opt/module/azkaban/executor/conf/global.properties azkaban.project.dir=projects #数据库类型 database.type=mysql #端口号 mysql.port=3306 #数据库连接IP mysql.host=hadoop102 #数据库实例名 mysql.database=azkaban #数据库用户名 mysql.user=root #数据库密码 mysql.password=123456 #最大连接数 mysql.numconnections=100 # Velocity dev mode velocity.dev.mode=false # Azkaban Jetty server properties. # Jetty服务器属性. #最大线程数 jetty.maxThreads=25 #Jetty SSL端口 jetty.ssl.port=8443 #Jetty端口 jetty.port=8081 #SSL文件名(绝对路径) jetty.keystore=/opt/module/azkaban/server/keystore #SSL文件密码 jetty.password=123456 #Jetty主密码与keystore文件相同 jetty.keypassword=123456 #SSL文件名(绝对路径) jetty.truststore=/opt/module/azkaban/server/keystore #SSL文件密码 jetty.trustpassword=123456 # Azkaban Executor settings executor.port=12321 # mail settings #邮件由谁发送 mail.sender= #邮箱的SMTP服务器或POP3服务器地址 mail.host= #邮箱的授权码 mail.password= #邮件发送给谁 mail.user= job.failure.email= job.success.email= lockdown.create.projects=false cache.directory=cache
2.在azkaban web服务器安装目录 conf目录,按照如下配置修改azkaban-users.xml 文件,以增加管理员用户
<azkaban-users> <user username="azkaban" password="azkaban" roles="admin" groups="azkaban" /> <user username="metrics" password="metrics" roles="metrics"/> <user username="admin" password="admin" roles="admin,metrics"/> <role name="admin" permissions="ADMIN" /> <role name="metrics" permissions="METRICS"/> </azkaban-users>
6、执行服务器配置
进入执行服务器安装目录conf,修改azkaban.properties文件
#Azkaban #时区 default.timezone.id=Asia/Shanghai # Azkaban JobTypes Plugins #jobtype 插件所在位置 azkaban.jobtype.plugin.dir=plugins/jobtypes #Loader for projects executor.global.properties=/opt/module/azkaban/executor/conf/global.properties azkaban.project.dir=projects database.type=mysql mysql.port=3306 mysql.host=hadoop102 mysql.database=azkaban mysql.user=root mysql.password=123456 mysql.numconnections=100 # Azkaban Executor settings #最大线程数 executor.maxThreads=50 #端口号(如修改,请与web服务中一致) executor.port=12321 #线程数 executor.flow.threads=30
7、依次启动执行服务器,web服务器
bin/azkaban-executor-start.sh
bin/azkaban-web-start.sh
注意:先执行executor,再执行web,避免Web Server会因为找不到执行器启动失败。
8、登录web端
在浏览器地址栏输入https://hadoop102:8443进行登录,用户名密码参考 5 用户名配置