代码改变世界

hive sql 优化

2020-06-22 14:10  breece  阅读(180)  评论(0编辑  收藏  举报

常规的:

1、过早的过滤字段、只选用需要的列、要加分区

2、join 小表放左边

set hive.exec.reducers.max=200;

set mapred.reduce.tasks= 200;---增大Reduce个数

set hive.groupby.mapaggr.checkinterval=100000 ;

set hive.groupby.skewindata=true; --如果是group by过程出现倾斜 应该设置为true

set hive.skewjoin.key=100000; --这个是join的键对应的记录条数超过这个值则会进行分拆,值根据具体数据量设置

set hive.optimize.skewjoin=true;--如果是join 过程出现倾斜 应该设置为true
参考:https://blog.csdn.net/weixin_41876523/article/details/84069013