摘要: hdfs的写流程,如下图: 1、使用HDFS提供的客户端开发库Client,向远程的Namenode发起RPC请求;Namenode会检查要创建的文件是否已经存在,创建者是否有权限进行操作,成功则会为文件创建一个记录(账本上记录一条),否则会让客户端抛出异常; 2、当客户端开始写入文件的时候,开发库 阅读全文
posted @ 2019-05-29 17:24 vartual 阅读(277) 评论(0) 推荐(0) 编辑
摘要: 问题:进入hive时报错,如下所示 原因是: spark升级到spark2以后,原有lib目录下的大JAR包被分散成多个小JAR包,原来的spark-assembly-*.jar已经不存在,所以hive没有办法找到这个JAR包。 解决办法是:修改bin目录下的hive文件 找到下面内容 将紫色部分改 阅读全文
posted @ 2019-05-29 16:46 vartual 阅读(489) 评论(0) 推荐(0) 编辑