11 2019 档案
摘要:YARN(Yet Another Resource Negotiator)背景 Yarn的出现是为了解决以下问题(即MapReduce1.0的缺陷): 单点故障。 JobTracker“大包大揽”导致任务过重。 容易出现内存溢出。 资源划分不合理。 YARN的设计思路 基本思路就是“放权”,即不让
阅读全文
摘要:简介 Hive可以快速实现简单的MapReduce统计,主要是通过自身组件把HiveQL转换成MapReduce任务来实现的。 Hive中SQL查询转换成MapReduce作业的过程 当用户向 Hive 输入一段命令或查询(即 HiveQL 语句)时,Hive 需要与 Hadoop 交互工作来完成该
阅读全文
摘要:Hive的系统架构 Hive主要由以下三个模块组成 用户接口模块 驱动模块 元数据存储模块 系统架构 架构解析 用户接口模块 用户接口模块的组成 主要包括:CLI、HWI、JDBC、ODBC、Thrift Server等。 CLI:是Hive自带的一个命令行界面,HWI是Hive的一个简单网页界面;
阅读全文
摘要:需求介绍 前端通过ajax调用java的接口获取到json字符串,在通过js处理获取到的json字符串将文件内容展示在页面上,同时可以对文件下载。 Java后端代码 /** * 获取文件内容 * @return */ public String getFileContent() { Map<Stri
阅读全文
摘要:简介 What is the Quartz Job Scheduling Library? Quartz is a richly featured, open source job scheduling library that can be integrated within virtually
阅读全文