12.25

实验6  熟悉Hive的基本操作

 

1.实验目的

1)理解Hive作为数据仓库在Hadoop体系结构中的角色。

2)熟练使用常用的HiveQL

2.实验平台

操作系统:Ubuntu18.04(或Ubuntu16.04)。

Hadoop版本:3.1.3

Hive版本:3.1.2

JDK版本:1.8。

3.数据集

由《Hive编程指南》(O'Reilly系列,人民邮电出版社)提供,下载地址:

https://raw.githubusercontent.com/oreillymedia/programming_hive/master/prog-hive-1st-ed-data.zip

备用下载地址:

https://www.cocobolo.top/FileServer/prog-hive-1st-ed-data.zip

解压后可以得到本实验所需的stocks.csvdividends.csv两个文件。

4.实验步骤

1)创建一个内部表stocks,字段分隔符为英文逗号,表结构如表14-11所示。

14-11 stocks表结构

col_name

data_type

exchange            

string              

symbol              

string              

ymd                 

string              

price_open          

float               

price_high          

float               

price_low           

float               

price_close         

float               

volume              

int                 

price_adj_close     

float  

 

 

 

(2)创建一个外部分区表dividends(分区字段为exchangesymbol),字段分隔符为英文逗号,表结构如表14-12所示。

14-12 dividends表结构

col_name

data_type

ymd                 

string              

dividend            

float               

exchange            

string              

symbol              

string              

 

3)从stocks.csv文件向stocks表中导入数据。

 

4创建一个未分区的外部表dividends_unpartitioned,并从dividends.csv向其中导入数据,表结构如表14-13所示。

14-13 dividends_unpartitioned表结构

col_name

data_type

ymd                 

string              

dividend            

float               

exchange            

string              

symbol              

string              

 

5通过对dividends_unpartitioned的查询语句,利用Hive自动分区特性向分区表dividends各个分区中插入对应数据。

 

6)查询IBM公司(symbol=IBM)2000年起所有支付股息的交易日(dividends表中有对应记录)的收盘价(price_close)

 

7)查询苹果公司(symbol=AAPL)200810月每个交易日的涨跌情况,涨显示rise,跌显示fall,不变显示unchange

 

8)查询stocks表中收盘价(price_close)比开盘价(price_open)高得最多的那条记录的交易所(exchange)、股票代码(symbol)、日期(ymd)、收盘价、开盘价及二者差价。

 

9)从stocks表中查询苹果公司(symbol=AAPL)年平均调整后收盘价(price_adj_close) 大于50美元的年份及年平均调整后收盘价。

 

10)查询每年年平均调整后收盘价(price_adj_close)前三名的公司的股票代码及年平均调整后收盘价。

 

5.实验报告

题目:

熟悉Hive的基本操作

姓名

邓睿智

日期:

2024.12.10

实验环境:Linux

实验内容与完成情况:熟悉Hive的基本操作;已完成

出现的问题:。

在进行复杂查询时,由于对HiveQL的不熟悉导致查询语句编写错误,通过查阅文档和实践后逐渐掌握正确的查询语句编写方法。

 

解决方案(列出遇到的问题和解决办法,列出没有解决的问题):通过查阅HiveQL文档和实践,逐步掌握查询语句的编写,对于复杂的查询逻辑,可以通过分解查询步骤来逐步实现。

posted @   The-rich  阅读(4)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 地球OL攻略 —— 某应届生求职总结
· 提示词工程——AI应用必不可少的技术
· Open-Sora 2.0 重磅开源!
· 周边上新:园子的第一款马克杯温暖上架
点击右上角即可分享
微信分享提示