随笔分类 - Flink
摘要:一、 离线数仓 应用:大屏、驾驶舱、商品分析、销售订单分析、BI平台、供应链仓储运单分析、门店经营分析、用户画像。 电商业务表 1. 建模理论 ER模型 :实体关系 3NF 数据冗余低 保障数据一致性 面向对象设计 主外键 不适合统计分析 ODS层 维度模型 :星型模型 建表&SQL 数据统计:汇总
阅读全文
摘要:1.集群有2个flink版本,用application方式启动报错 Caused by: java.lang.ClassCastException: cannot assign instance of org.apache.commons.collections.map.LinkedMap to f
阅读全文
摘要:1. Flink架构 1.1 Flink的角色 Client:获取、转换、提交代码给jm. JM:对job做任务调度,再对job进一步处理转换,然后分发给TM. TM:数据处理. 1.2 部署模式 Standalone #1.配置web访问的IP vim flink-conf.yaml rest.a
阅读全文
摘要:1.源码编译 flink-1.19 jdk-1.8 scala-2.12 mvm-3.86 自定义日志:注意修改8081端口,可能被占用;windows日志的路径命名不能包含:,要改名 自定义jar 2. Pekko Akka、Pekko 用于构建高并发、分布式、可容错、事件驱动的开发库,基于Act
阅读全文