Kettle入门使用:插入/更新/数据同步
一.Kettle初步使用
双击Spoon.bat即可启动,然后点击“文件”或右键“转换”,均可新建转换
(图1)
新建转换后需要连接数据库。①点击主对象树;②右键“DB连接”——新建;③选择数据库(本人为MySQL),Oracle同理;④选择连接方式;⑤设置数据库连接(别忘了第一行“连接名称”:随便取个名);⑥点击“测试”,成功or失败;⑦成功后右下角确认即可,然后“DB连接”下面就有该连接了,右键连接可设置为共享(下次新建连接就可以直接用)
(图2)
点击核心对象,可以看到很多功能,反正大部分我都不会用(苦笑脸!)所以下面只演示表的插入/更新/同步。。。。。
实现数据的插入/更新:①user表:②user_age表:③目的:将user表中的增量/更新数据同步到user_age表。
点击“输入”,然后将“表输入”直接拖拽到右边的工作框;双击表输入然后依次步骤取名——选择下之前创建的连接——再写sql,获取你要的数据(我这里是获取user表所有数据)
点击“输出”,直接将“插入/更新”拖拽到右边的工作框,同样取个名——选择数据库连接——目标表选择你需要插入/更新的表——目标表与源数据表(流)的对应关系(此处即user_age表的user_id与user表的id,可理解为外键关系,spoon通过比较这两个字段来同步数据)——数据同步的对应关系(记住更新下面选择Y,不需要同步选择N)
Shift健按住,左键点击表即可延伸箭头,创建转换。点击运行,会提示保存转换(工作数据建议保存到固定文件夹,方便后续查看/使用),保存后即可运行。每个步骤上都出现绿色的“√”表示运行成功,可查看目标表数据是否同步,若出现红色警告则说明该步骤运行失败。
上述转换实际存在缺陷:只能在目标表中同步源表的插入/更新的数据,而源表删除的数据,目标表不会删除,即并没完全同步(目标表和源表完全一致)。若需要完全同步,可使用“数据同步”输出。
二.Kettle数据同步
直接上转换图。目的:将user表的数据完全同步到目标表(两表保持完全一致)
拖拽两个表输入,配置如图,因为要合并记录(实际是对两张表数据进行比较),所以获取SQL获取数据/字段等要一致。
合并记录,连接中拖拽出“合并记录”
合并记录配置:
①一定要注意旧数据源和新数据源的区别,
旧数据源指:需要同步的目标表,user_age表(可理解为备份表);
新数据源值:源数据,user表(可理解为业务中一直变动的表);
②标志字段:flagfield后面“数据同步”步骤需要用到,Spoon用它记录数据的“增 删 改”状态,才能执行同步
③关键字段,两张表数据用来对比的字段(此处user_id);
④同步的数据字段。
输出中拖拽出“数据同步”,配置如下:
————————————————
版权声明:本文为CSDN博主「半个萝卜」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/qq_40827989/article/details/81121303