随笔 - 321  文章 - 0  评论 - 6  阅读 - 34万

Impala中的刷新元数据和刷新表

转载:https://blog.csdn.net/xiaobao5214/article/details/85062176

使用方式

invalidate metadata是用于刷新全库或者某个表的元数据,包括表的元数据和表内的文件数据,它会首先清楚表的缓存,然后从metastore中重新加载全部数据并缓存,该操作代价比较重,主要用于在hive中修改了表的元数据,需要同步到impalad,例如create table/drop table/alter table add columns等。

invalidate metadata   语法:

  1.  
    invalidate metadata                   //重新加载所有库中的所有表
  2.  
    invalidate metadata [table]            //重新加载指定的某个表

refresh是用于刷新某个表或者某个分区的数据信息,它会重用之前的表元数据,仅仅执行文件刷新操作,它能够检测到表中分区的增加和减少,主要用于表中元数据未修改,数据的修改,例如insert into、load data、alter table add partition、llter table drop partition等,如果直接修改表的hdfs文件(增加、删除或者重命名)也需要指定refresh刷新数据信息。

refresh 语法:

  1.  
    refresh [table]                             //刷新某个表
  2.  
    refresh [table] partition [partition]       //刷新某个表的某个分区

使用原则

如果在使用过程中涉及到了元数据或者数据的更新,则需要使用这两者中的一个操作完成,具体如何选择需要根据如下原则:

invalidate metadata操作比refresh要重量级
如果涉及到表的schema改变,使用invalidate metadata [table]
如果只是涉及到表的数据改变,使用refresh [table]
如果只是涉及到表的某一个分区数据改变,使用refresh [table] partition [partition]
禁止使用invalidate metadata什么都不加,宁愿重启catalogd。

posted on   该用户很懒  阅读(3159)  评论(0编辑  收藏  举报
编辑推荐:
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
阅读排行:
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· SQL Server 2025 AI相关能力初探
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

点击右上角即可分享
微信分享提示