数据仓库分层

1. 分层目的

  1. 把复杂问题简单化,将复杂的任务分解成多层来完成,每一层只处理简单任务,方便定位问题。
  2. 减少重复开发,规范数据分层,通过中间层数据,能够减少极大的重复计算,增加一次计算结果的复用性。
  3. 隔离原始数据:不论是数据的异常还是数据的敏感性,使真实数据与统计数据解耦开。

2. 分层概述

image

  • ODS层:原始数据层,存放原始数据,直接加载原始日志、数据,数据保持原貌不做处理
  • DWD层:对ODS层数据进行清洗(去除空值,脏数据,超过极限范围的数据)、维度退化脱敏等
  • DWS层:以DWD为基础,按天进行轻度汇总。
  • DWT层:以DWS为基础,按主题进行汇总
  • ADS层:为各种报表提供数据

3. 举例

image

4. 参考

https://blog.csdn.net/weixin_42796403/article/details/112203116
https://blog.csdn.net/u010848845/article/details/109397681

posted @ 2022-08-08 09:57  MeiyangLi  阅读(166)  评论(0编辑  收藏  举报