随笔分类 - azkaban
摘要：一、Command类型的单一jobcommand1.job#command.jobtype=commandcommand=bash hello.shhello.sh#!/bin/bashecho 'hello azkaban'将job资源文件打包成zip文件:通过azkaban的web管理平台创建project并上传job压缩包启动执行该job这里直接执行，执行完后可以查看：二、Command类型...
阅读全文
摘要：一、下载azkaban官网：https://azkaban.github.io/downloads.htmlGitHub下载地址：https://github.com/azkaban/azkaban下载：[root@salt ~]# git clone https://github.com/azkaban/azkaban.git二、安装1、构建我这里没有用git下载，是直接下载的压缩包，不过都问题...
阅读全文
摘要：一、概述1、 为什么需要工作流调度系统一个完整的数据分析系统通常都是由大量任务单元组成： shell脚本程序，java程序，mapreduce程序、hive脚本等;各任务单元之间存在时间先后及前后依赖关系;为了很好地组织起这样的复杂执行计划，需要一个工作流调度系统来调度执行；例如：我们可能有这样一个需求，某个业务系统每天产生20G原始数据，我们每天都要对其进行处理，处理步骤如下所示：1、通...
阅读全文
