datax

一、datax概述
1.1 介绍
　DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台，实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等各种异构数据源之间高效的数据同步功能。
　DataX本身作为数据同步框架，将不同数据源的同步抽象为从源头数据源读取数据的Reader插件，以及向目标端写入数据的Writer插件，理论上DataX框架可以支持任意数据源类型的数据同步工作。同时DataX插件体系作为一套生态系统, 每接入一套新数据源该新加入的数据源即可实现和现有的数据源互通。
1.2 框架涉及
DataX本身作为离线数据同步框架，采用Framework + plugin架构构建。将数据源读取和写入抽象成为Reader/Writer插件，纳入到整个同步框架中。
Reader：Reader为数据采集模块，负责采集数据源的数据，将数据发送给Framework。
Writer： Writer为数据写入模块，负责不断向Framework取数据，并将数据写入到目的端。
Framework：Framework用于连接reader和writer，作为两者的数据传输通道，并处理缓冲，流控，并发，数据转换等核心技术问题。
1.3 插件体系

类型	数据源	Reader(读)	Writer(写)	文档
RDBMS 关系型数据库	MySQL	√	√	读、写
	Oracle	√	√	读、写
	OceanBase	√	√	读、写
	SQLServer	√	√	读、写
	PostgreSQL	√	√	读、写
	DRDS	√	√	读、写
	达梦	√	√	读、写
	通用RDBMS(支持所有关系型数据库)	√	√	读、写
阿里云数仓数据存储	ODPS	√	√	读、写
	ADS		√	写
	OSS	√	√	读、写
	OCS	√	√	读、写
NoSQL数据存储	OTS	√	√	读、写
	Hbase0.94	√	√	读、写
	Hbase1.1	√	√	读、写
	MongoDB	√	√	读、写
	Hive	√	√	读、写
无结构化数据存储	TxtFile	√	√	读、写
	FTP	√	√	读、写
	HDFS	√	√	读、写
	Elasticsearch		√	写

1.4 核心架构
DataX完成单个数据同步的作业，我们称之为Job，DataX接受到一个Job之后，将启动一个进程来完成整个作业同步过程。DataX Job模块是单个作业的中枢管理节点，承担了数据清理、子任务切分(将单一作业计算转化为多个子Task)、TaskGroup管理等功能。
DataXJob启动后，会根据不同的源端切分策略，将Job切分成多个小的Task(子任务)，以便于并发执行。Task便是DataX作业的最小单元，每一个Task都会负责一部分数据的同步工作。
切分多个Task之后，DataX Job会调用Scheduler模块，根据配置的并发数据量，将拆分成的Task重新组合，组装成TaskGroup(任务组)。每一个TaskGroup负责以一定的并发运行完毕分配好的所有Task，默认单个任务组的并发数量为5。
每一个Task都由TaskGroup负责启动，Task启动后，会固定启动Reader—>Channel—>Writer的线程来完成任务同步工作。
DataX作业运行起来之后， Job监控并等待多个TaskGroup模块任务完成，等待所有TaskGroup任务完成后Job成功退出。否则，异常退出，进程退出值非0
DataX调度流程：
举例来说，用户提交了一个DataX作业，并且配置了20个并发，目的是将一个100张分表的mysql数据同步到odps里面。 DataX的调度决策思路是：
DataXJob根据分库分表切分成了100个Task。
根据20个并发，DataX计算共需要分配4个TaskGroup。
4个TaskGroup平分切分好的100个Task，每一个TaskGroup负责以5个并发共计运行25个Task。

1.5 优势
1、可靠的数据质量监控；
2、丰富的数据转换功能；
3、精准的速度控制；
4、强劲的同步性能；
5、健壮的容错机制；
6、极简的使用体验。

二、datax安装与启动
2.1 安装前置条件
jdk（1.8以上，推荐1.8） python（推荐python2.7）一定要为Python2，因为后面执行datax.py的时候，里面的Python的print会执行不了，导致运行不成功，会提示你print语法要加括号，Python2中加不加都行，Python3中必须要加，否则报语法错。python版本查看（通常linux服务器会自带2.x版本）Apache Maven 3.x (Compile DataX)
2.2 下载地址
1、datax下载地址： https://github.com/alibaba/DataX 2、apache-maven下载地址： https://link.csdn.net/?target=http%3A%2F%2Fmirrors.tuna.tsinghua.edu.cn%2Fapache%2Fmaven%2Fmaven-3%2F3.3.9%2Fbinaries%2Fapache-maven-3.3.9-bin.tar.gz
2.3 下载datax，上传至服务器
上传至服务器

点击查看代码

cd /export/home/laity
rz datax.tar.gz
tar -zxvf datax.tar.gz

2.4 下载maven

点击查看代码

cd /root
weget https://link.csdn.net/?target=http%3A%2F%2Fmirrors.tuna.tsinghua.edu.cn%2Fapache%2Fmaven%2Fmaven-3%2F3.3.9%2Fbinaries%2Fapache-maven-3.3.9-bin.tar.gz
上传至服务器
cd /export/home/laity
cp -a /root/apache-maven-3.3.9-bin.tar.gz /export/home/laity
tar -zxvf apache-maven-3.3.9-bin.tar.gz
添加环境变量
M2_HOME=/home/hadoop/soft/apache-maven-3.3.9
export PATH=${M2_HOME}/bin:${PATH}
检查是否安装成功
mvn -v
[root@jdmobile-2021-34ee21e5 ~]# mvn -v
Picked up JAVA_TOOL_OPTIONS: -Dfile.encoding=UTF8
Apache Maven 3.3.9 (bb52d8502b132ec0a5a3f4c09453c07478323dc5; 2015-11-11T00:41:47+08:00)
Maven home: /export/home/laity/apache-maven-3.3.9
Java version: 1.8.0_91, vendor: Oracle Corporation
Java home: /export/servers/jdk1.8.0_91/jre
Default locale: zh_CN, platform encoding: UTF8
OS name: "linux", version: "4.18.0-193.el8.jd_020.x86_64", arch: "amd64", family: "unix"

2.5 datax自检

点击查看代码

[laity@~ bin]$ pwd  
/export/home/laity/datax/bin
[laity@~ bin]$ python datax.py ../job/job.json

2.6 oracle-mysql (oracle同步至mysql)

点击查看代码

[laity@~ conf]$ more o2m-bal.json 
{
    "job": {
        "content": [
            {
                "reader": {
                    "name": "oraclereader",   --根据实际情况修改
                    "parameter": {
                        "column": ["column1","column2","column3","column4","column5","column6","column7","column8"],    --根据实际情况修改
                        "connection": [
                            {
                               "jdbcUrl": ["jdbc:oracle:thin:@ip:port:service_name"],    --根据实际情况修改
                                "table": ["table_name"]   --根据实际情况修改
                            }
                        ],
                        "password": "****",    --根据实际情况修改
                        "username": "****",    --根据实际情况修改
                    }
                },
                "writer": {
                    "name": "mysqlwriter",   --根据实际情况修改
                    "parameter": {
                        "column": ["column1","column2","column3","column4","column5","column6","column7","column8"],   --根据实际情况修改
                        "connection": [
                            {
                                "jdbcUrl": "jdbc:mysql://ip:port/mysql库",    --根据实际情况修改
                                "table": ["table_name"]   --根据实际情况修改
                            }
                        ],
                        "password": "****",   --根据实际情况修改
                        "username": "****",   --根据实际情况修改
                    }
                }
            }
        ],
        "setting": {
            "speed": {
                "channel": "5"
            }
        }
    }
}

2.7 其余数据库同步类似

posted @ 2022-04-06 14:29 laity_guan 阅读(211) 评论(0) 编辑收藏举报

刷新页面返回顶部

laity_guan

datax

公告