|NO.Z.00002|——————————|BigDataEnd|——|Hadoop&实时数仓.V02|——|项目.v02|背景需求|实时数仓转型故事|
一、实时数仓转型故事:离线数仓:

二、离线数仓分层架构图:

三、实时计算架构:

四、数据计算架构说明
~~~ # 收集层:
~~~ Binlog(业务日志)、loT(物联网)、后端服务日志(系统日志)
~~~ 经过日志收集团队和 DB 收集团队的处理,数据将会被收集到 Kafka 中。
~~~ 这些数据不只是参与实时计算,也会参与离线计算。
~~~ # 存储层:
~~~ Kafka:实时增量数据
~~~ HDFS:状态数据存储和全量数据存储(持久层)
~~~ HBASE: 维度数据存储
~~~ # 引擎层:
~~~ 实时处理框架
~~~ # 平台层:
~~~ 数据、任务和资源三个角度去管理---集群资源
~~~ # 应用层:
~~~ 底层架构的应用场景
~~~ # 流量
~~~ 流量数据的产生:
~~~ 不同通道的埋点和不同页面的埋点产生数据
~~~ 采集:按照业务维度划分不同的业务通道。
五、应用:1、流的方式提供下游业务使用 2、流量方面的分析

六、广告实时效果验证 --- 重架构

### --- 广告实时效果验证 --- 重架构
~~~ CPV(展示广告) 又称富媒体广告,按展示付费,即按投放广告网站的被展示次数计费,
~~~ 网站被打开一次计一次费,按千次IP计费(国内CPV广告常见是网页右下角弹窗例如高仿QQ消息框)
~~~ CPC与CTR: 在现在的广告业 CPC 这个指标很难用来跟效果扯上关系,更多的时候是计费单位了。
~~~ 而 CTR 有的时候还是会作为效果的工具,大多用来衡量两次投放的不同投放策略、优化策略、
~~~ 创意的好坏。总之这两个指标通常都是必须提供的基础数据;
~~~ Reach Rate: 广告产生点击动作以后,后面的指标就是到达。
~~~ 点击后到达的比率是一个重要的指标,是否有较高的到达率是广告效果的重要体现;
~~~ Conversion Rate: 广告后续的转化比率,从到达到转化的比率是用来评估广告效果的一种指标;
七、到达时间预估
### --- 到达时间预估
~~~ 商家、骑手和用户等多维度数据评估
Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
——W.S.Landor
分类:
bdv026-EB实时数仓
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通