Kettle 增量推送数据
业务表有date时间类型字段,根据该字段来设置变量控制数据增量推送
来源表:
目标表:
目标表需包含来源表要推送数据的所有字段
kettle组件按照顺序用到了两个表输入(第一个组件获取目标表已有数据最大时间,第一次推送时目标表为空设置的一个默认值;第二个表输入组件获取来源表数据)、一个表输出组件(输出来源表数据到目标表),
总体思路是获取目标表已推送数据的最大时间,将其作为变量,查询来源表中未推送数据的where条件
表输入组件1:
由于第一次推送数据时,目标表为空表导致查询的时间为空,无法作为正确的参数值给第二个表输入组件查询数据,所以在查询到时间为空时赋一个默认时间值以便第二个表输入组件可以根据它查询到所有数据
表输入组件2:
这里sql语句中 where time > ?里?的值是通过第一个表输入组件获取的时间值
表输出组件:
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 提示词工程——AI应用必不可少的技术
· 地球OL攻略 —— 某应届生求职总结
· 字符编码:从基础到乱码解决
· SpringCloud带你走进微服务的世界