在大数据领域,hive 的位置非常重要,排名前三的大数据工具为 spark、hive、kafka

 

什么是hive

在大数据领域有 3 种需求场景:传输、存储、计算;

hive 是一个处理海量的结构化数据的计算引擎;

hive 是基于 hadoop 的一个数据仓库工具,他将结构化的数据数据文件映射为一张表,并且提供了类 sql 的查询功能;

hive 提供的 sql 叫 HQL,本质是把 HQL 转换成 mapreduce;

 

认识 hive 需要搞清楚以下几点:

1. hive 虽然是大数据工具,但是 hive 并非分布式的,它只安装在一台机器上,当然你可以在多台机器上都安装 hive,但彼此之间没有联系;

2. 我们可以把 hive 看做 hadoop 的客户端,通过使用 hive 来使用 hadoop;

3. hive 是个计算引擎,他没有存储功能,虽然有一张表,但是我们可以认为那是一张虚拟表,表的数据存储在 hdfs,表的元数据存在 mysql 等数据库,hive 查询时通过元数据找到数据在 hdfs 中的位置,并启动 mapreduce 进行计算;

 

hive 的工作逻辑

1. hive 的数据存储在 hdfs

2. hive 的计算通过 hadoop 完成

 

hive 的架构

 

Client:客户端,需要 jdbc 数据库;

Metastore:元数据,存储在 关系型数据库,如 mysql 等;

元数据存储了表的相关信息,包括表名,每张表在 hdfs 中的存储路径,表的拥有者,字段 等;

 

Driver:这是 hive 的核心,包括 解析器,编译器,优化器,执行器;

解析器检查 sql 语法是否正确;编译器把 sql 转换成 mr;优化器对 mr 进行优化;执行器执行 mr;

 

hive vs database

hive 和数据库的区别主要体现在 数据量 上,hive 适合海量数据,数据库在超过 千万条 数据后,性能会大大下降;

 

数据存储位置

hive 本身没有存储功能,其数据存储在 hdfs 上,其元数据存储在 关系型数据库;

而数据库数据存在本地文件中;

 

数据更新

hive 针对数据仓库设计,数据仓库的内容是查多写少,不建议修改其内容,确切的说 hive 没有 改 的功能,只提供 增删查;

hive 的改相当于先删掉原来的,再 put 新的到 hdfs;

数据库可增删改查;

 

索引

hive 无索引,由于 mr 是并行的读取 block 的,所以在无索引的情况下,依然高效;【不过我看官网上有 索引,可能是版本问题,有没有试试就知道了】

数据库有索引;

 

可扩展和数据规模

hive 的背后是 hadoop,所以它具有集群的一些优势,可以处理海量数据,且可以靠增加节点提高效率

 

hive 总结

hive 常用于数据分析;

hive 基于 hadoop,执行效率比较低,不适合实时性很高的任务;

hive 的优势是处理大数据,对于处理小数据没有优势;

 

优点

1. 基于 sql ,操作简单,学习成本低

2. 支持自定义函数

 

缺点

1. hive 的 HQL 表达能力有限

迭代式算法无法表达:算法分好多步,每一步需要上一步的计算结果,在 mr 中输出必须经过 IO,很慢,而且 sql 无法实现计算之后再计算;

数据挖掘方面不擅长:也需要多次迭代;

2. hive 效率比较低,且不好调优

 

最后感觉 hive 的教程比较少,附上官网

https://hive.apache.org/   【apache 所有的 url 格式都是 组件名称 + apache.org】

说明文档也在这个网站上