【转载】 hive 内部表与外部表

未被external修饰的是内部表(managed table),被external修饰的为外部表(external table);
区别:
内部表数据由Hive自身管理,外部表数据由HDFS管理;
内部表数据存储的位置是hive.metastore.warehouse.dir(默认:/user/hive/warehouse),外部表数据的存储位置由自己制定(如果没有LOCATION,Hive将在HDFS上的/user/hive/warehouse文件夹下以外部表的表名创建一个文件夹,并将属于这个表的数据存放在这里);
删除内部表会直接删除元数据(metadata)及存储数据;删除外部表仅仅会删除元数据,HDFS上的文件并不会被删除;
对内部表的修改会将修改直接同步给元数据,而对外部表的表结构和分区进行修改,则需要修复(MSCK REPAIR TABLE table_name;)

创建
内部表:内部表直接创建,不需要加关键字

create table if not exits xm_testA(
    KEHUMC VARCHAR(50) COMMENT '客户名称',
    KEHUZH VARCHAR(50) COMMENT '客户号'
)
COMMENT '客户信息表'

外部表:外部表的创建需要加上external关键字修饰,可以通过location指定hive仓库的路径

create external table if not exits xm_testB(
    KEHUMC VARCHAR(50) COMMENT '客户名称',
    KEHUZH VARCHAR(50) COMMENT '客户号'
)
COMMENT '客户信息表'
location '/user/xm/test'

默认仓库路径
内部表:内部表的默认创建路径在:/user/hive/warehouse/database.db/xm_testA
外部表:外部表的默认创建路径在:/user/hive/warehouse/database.db/xm_testB

drop 表
内部表:内部表删除后会将元数据和路径下的文件都删除
外部表:外部表只删除元数据,不删除路径下的文件

load加载数据
内部表:会把数据移动到自己指定的路径下
外部表:不会把数据移动到自己的数据仓库目录下,也因此证明外部表的数据不是由自己管理的。

总结
对于什么时候使用外部表,什么时候内部表,并没有一个固定的规范,通过最近一段时间的观察,大概总结了一下几点:

1.做etl处理时,通常会选择内部表做中间表,因为清理时,会将HDFS上的文件同时删除
2.如果怕误删数据,可以选择外部表,因为不会删除文件,方便恢复数据
3.如果对数据的处理都是通过hql语句完成,选择内部表,如果有其他工具一同处理,选择外部表

在没有其他限制的情况下,优先使用外部表,因为:
1.不会加载数据到hive,减少数据传输,还能共享
2.不会对HDFS中的数据修改,不用担心数据损坏,删除表时只删除表结构,不删除数据

原文:

https://blog.csdn.net/weixin_43192721/article/details/88420401

https://blog.csdn.net/qq_36743482/article/details/78393678

posted @ 2021-08-18 09:00  -拂石-  阅读(265)  评论(0编辑  收藏  举报