|NO.Z.00009|——————————|BigDataEnd|——|Hadoop&OLAP_Kylin.V09|——|Kylin.v09|Kylin构建Cube|增量构建Cube.V2|
一、增量Cube构建
### --- 增量cube构建流程
~~~ 步骤:定义数据源 => 定义model => 定义Cube => 构建Cube
二、定义数据源
### --- 准备数据源
~~~ # 准备数据源
[root@hadoop02 ~]# ll /data/kylin/
~~~准备数据源
dw_sales1001_data.txt
dw_sales1002_data.txt
dw_sales1003_data.txt
dw_sales1004_data.txt
### --- 创建数据表
~~~ # 切换数据库
hive (default)> use yanqi_kylin;
hive (yanqi_kylin)>
~~~ # 创建数据表
hive (yanqi_kylin)> drop table yanqi_kylin.dw_sales1;
hive (yanqi_kylin)> create table yanqi_kylin.dw_sales1(
id string,
channelId string,
productId string,
regionId string,
amount int,
price double
)
partitioned by (dt string)
ROW FORMAT DELIMITED FIELDS TERMINATED BY ',';
### --- 加载数据:4天时间
~~~ # 加载数据:2021-10-01
hive (yanqi_kylin)> load data local inpath "/data/kylin/dw_sales1001_data.txt"
into table yanqi_kylin.dw_sales1
partition(dt="2021-10-01");
~~~ # 加载数据:2021-10-02
hive (yanqi_kylin)> load data local inpath "/data/kylin/dw_sales1002_data.txt"
into table yanqi_kylin.dw_sales1
partition(dt="2021-10-02");
~~~ # 加载数据:2021-10-03
hive (yanqi_kylin)> load data local inpath "/data/kylin/dw_sales1003_data.txt"
into table yanqi_kylin.dw_sales1
partition(dt="2021-10-03");
~~~ # 加载数据:2021-10-04
hive (yanqi_kylin)> load data local inpath "/data/kylin/dw_sales1004_data.txt"
into table yanqi_kylin.dw_sales1
partition(dt="2021-10-04");
### --- 查看加载的数据
~~~ # 查看加载的数据
hive (yanqi_kylin)> show partitions dw_sales1;
partition
dt=2021-10-01
dt=2021-10-02
dt=2021-10-03
dt=2021-10-04
~~~ # 统计每天的数据
hive (yanqi_kylin)> select dt, count(*) from yanqi_kylin.dw_sales1 group by dt;
dt _c1
2021-10-01 1000
2021-10-02 1207
2021-10-03 647
2021-10-04 1098
Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
——W.S.Landor
分类:
bdv023-kylin
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通