随笔分类 -  hive

摘要:一 环境: 二.数据情况: 三.Eclipse+Maven+Java 3.1 依赖: 3.2 代码: 工具类: 四 错误解决办法: 下载cdh集群Hive的hive-site.xml文件,在项目中新建resources文件夹,讲hive-site.xml配置文件放入其中: 五 执行情况: 耗时14m 阅读全文
posted @ 2018-11-27 16:39 gongxiucheng 阅读(3342) 评论(0) 推荐(0)
摘要:7.Hive授权参考(开启sentry之后,对用户授权用不了,只能针对用户组,grant role testrole to user xxxxxxx; ) 7.1:角色创建和删除 create role star_read ; drop role star_read ; grant role sta 阅读全文
posted @ 2018-09-06 11:19 gongxiucheng 阅读(1602) 评论(0) 推荐(0)
摘要:1.hive中基本操作; DDL,DML 2.hive中函数 User-Defined Functions : UDF(用户自定义函数,简称JDF函数)UDF: 一进一出 upper lower substring(进来一条记录,出去还是一条记录)UDAF:Aggregation(用户自定的聚合函数 阅读全文
posted @ 2018-07-18 16:44 gongxiucheng 阅读(611) 评论(0) 推荐(0)
摘要:在cdh集群中,删除之前的hive服务,然后将hive添加到其他节点,然后再通过hive客户端连接hive报错: 解决办法: 阅读全文
posted @ 2018-07-17 17:15 gongxiucheng 阅读(3574) 评论(5) 推荐(0)
摘要:1.发现问题: 在hive客户端或者beeline查询hive表时候报错: 根据报错信息查看,是在集群namenode做了HA之后,产生的hdfs路径不对的问题; 2.解决问题,修改hive元数据mysql信息表DBS和SDS: 更改语句: mysql> update sds set LOCATIO 阅读全文
posted @ 2018-06-27 16:46 gongxiucheng 阅读(12577) 评论(0) 推荐(0)
摘要:一,开源软件版本: hadoop版本 : hadoop-2.7.5 hive版本 :apache-hive-2.1.1 spark版本: spark-2.3.0-bin-hadoop2.7 各个版本到官网下载就ok,注意的是版本之间的匹配 机器介绍,三台机器,第一台canal1为主节点+工作节点,另 阅读全文
posted @ 2018-05-14 14:06 gongxiucheng 阅读(628) 评论(0) 推荐(0)