12 2022 档案

摘要:比Sqoop功能更加强大开源数据同步工具DataX实战前面两篇连续介绍两个数据同步组件后,好事应有三,大满贯收场,本篇介绍主流的异构数据源离线同步工具DataX的框架设计和执行流程,将其与大名鼎鼎大数据同步组件Sqoop做对比,部署安装并通过配置基于MySQL和HDFS互为读写的实例场景和关键配置说明。 阅读全文
posted @ 2022-12-23 21:51 itxiaoshen 阅读(1154) 评论(1) 推荐(3) 编辑
摘要:实时采集MySQL数据之轻量工具Maxwell实操一个用于企业应用支持实时增量采集和全量采集MySQL数据开源框架Maxwell,功能强于Canal,比Flink CDC更易用。本篇先了解其定义和原理,然后通过安装和环境准备,了解其启动的两种方式,最后实操演示几个maxwell在企业中常用的场景示例。 阅读全文
posted @ 2022-12-19 23:16 itxiaoshen 阅读(1612) 评论(0) 推荐(3) 编辑
摘要:可视化编排的数据集成和分发开源框架Nifi轻松入门-上如何你正在为数据采集做技术选型,今天介绍一款功能极其强大性能也高且采用可视化编排的数据集成框架nifi可以列入选型范畴,是数仓开发的强大工具之一,只要使用后就能体会到其丰富的处理器和扩展性。先了解其特性、核心概念和架构,也支持分布式集群,了解常见处理器分类,最后通过源码安装并使用两个简单的处理器演示一个基础入门示例 阅读全文
posted @ 2022-12-14 00:01 itxiaoshen 阅读(1092) 评论(0) 推荐(0) 编辑
摘要:秒级查询之开源分布式SQL查询引擎Presto实操-上大数据交互式查询是每个数据分析人员不可或缺的需求,本篇以业界交互式查询的经典之作Presto为研究对象,了解其架构和优缺点及丰富连接器。并通过安装一个协调节点和3个worker节点的分布式集群,使用命令行界面演示hive连接器的查询数据表的示例,最后了解其使用的要点。 阅读全文
posted @ 2022-12-08 22:48 itxiaoshen 阅读(1216) 评论(0) 推荐(1) 编辑
摘要:大数据下一代变革之必研究数据湖技术Hudi原理实战双管齐下-后续本篇实战Hudi集成Flink SQl编程示例实现从生成器表写入Hudi表,打包集群验证;然后通过Hudi Flink CDC实现采集MySQL binlog日志写入Kafka再入到hudi表的完整示例,了解Hudi Flink的基础调试只是,最后通过Hudi集成Hive实现Flink Hive Catalog双写同步Hive过程。 阅读全文
posted @ 2022-12-03 00:30 itxiaoshen 阅读(533) 评论(1) 推荐(0) 编辑

点击右上角即可分享
微信分享提示