【 精解: 创建桶表时,指定桶的个数,分桶的依据字段,hive就可以自动将数据分桶存储。查询时只需要遍历一个桶里的数据,或者遍历部分桶,这样就提高了查询效率。 】 对于每一个表(table)或者分区,hive 可以进一步组织成桶,也就是说桶是更为细粒度的数据范围划分。hive也是针对某一列进行桶的组织。 hive采用对列hash,然后除以桶的个数求余的方式决定该条记录存放在哪个桶当中。 `set hive.enforce.bucketing = true;` 把表(或者分区)组织成桶(Bucket)有两个理由: 1、获得更高的查询处理效率。桶为表加上了额外的结构,hive在处理有些查询时能利用这个结构。具体而言,连接两个在(包含连接列的) 相同列划分了桶的表,可以使用map端连接(map-side join)高效的实现。比如join操作。对于join操作两个表有一个相同的列,如果对这 两个表都进行桶操作。那么将保存相同列值得桶进行join操作就可以,可以大大减少join的数据。 2、使用样(sampling)更高效。在处理大规模数据集时,在开发和修改查询的阶段,如果能在数据集的一小部分数据上试运行查询,会带来很多方便。 1、创建带分区带桶的table: create table bucketed_user ( id int, name string ) partitioned by (stat_date string) clustered by (id) sorted by (name) into 4 buckets row format delimited fields terminated by '\t' [stored as textfile]; -clustered by 是指根据id的值进行hash后取模分桶个数,根据得到的结果,确定这行数据分入哪个桶中,这样的分法,可以确保相同id的数据放入同一个桶中。 而经销商的线索数据,大部分是根据id进行查询的。这样大部分情况下是只需要查询一个桶中的数据就可以了。 -sorted by 是指定桶中的数据以哪个字段进行排序,排序的好处是,在join操作时能获得很高的效率。 -into 4 buckets 是指定一共分多少个桶。 -在hdfs上存储时,一个桶存入一个文件中,这样根据id进行查询时,可以快速确定数据存在于哪个桶中,而只遍历一个桶可以提供查询效率。 --插入数据 >from bucketed_user_tmp >insert overwrite table bucketed_user partition(stat_date="20171208") >select id,name where stat_date="20171207" sort by id; --取样查看 >select * from bucketed_user tablesample(bucket 2 out of 2 on id); 首先,我们来看如何告诉hive一个表应该被划分成桶。我们使用clustered by子句来指定划分桶所用的列和要划分的桶的个数: create table bucketed_user ( id int, name string ) clustered by (id) into 4 buckets; 在这里,我们使用用户ID来确定如何划分桶