|NO.Z.00044|——————————|BigDataEnd|——|Hadoop&PB级数仓.V02|——|PB数仓.v02|核心交易分析|数据导入&需求分析|

一、数据导入
## --- 数据导入架构说明

~~~     已经确定的事情:DataX、导出7张表的数据。
~~~     MySQL 导出:全量导出、增量导出(导出前一天的数据)。
~~~     业务数据保存在MySQL中,每日凌晨导入上一天的表数据。
~~~     表数据量少,采用全量方式导出MySQL
~~~     表数据量大,而且根据字段能区分出每天新增数据,采用增量方式导出MySQL
## --- 3张增量表:

~~~     订单表 yanqi_trade_orders
~~~     订单产品表 yanqi_order_produce
~~~     产品信息表 yanqi_product_info
## --- 4张全量表:

~~~     产品分类表 yanqi_product_category
~~~     商家店铺表 yanqi_shops
~~~     商家地域组织表 yanqi_shop_admin_org
~~~     支付方式表 yanqi_payment

 
 
 
 
 
 
 
 
 

Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
                                                                                                                                                   ——W.S.Landor

 

 

posted on   yanqi_vip  阅读(26)  评论(0编辑  收藏  举报

相关博文:
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

导航

统计

点击右上角即可分享
微信分享提示