摘要:
<!-- spring中的依赖注入 依赖注入: Dependency Injection IOC的作用: 降低程序间的耦合(依赖关系) 依赖关系的管理: 以后都交给spring来维护 在当前类需要用到其他类的对象,由spring为我们提供,我们只需要在配置文件中说明 依赖关系的维护: 就称之为依赖注 阅读全文
摘要:
config约束配置文件: <?xml version="1.0" encoding="UTF-8"?><!DOCTYPE configuration PUBLIC "-//mybatis.org//DTD Config 3.0//EN" "http://mybatis.org/dtd/mybati 阅读全文
摘要:
HBase的预分区 1、为何要预分区? 增加数据读写效率 负载均衡,防止数据倾斜 方便集群容灾调度region 优化Map数量 2、如何预分区? 每一个region维护着startRow与endRowKey,如果加入的数据符合某个region维护的rowKey范围,则该数据交给这个region维护。 阅读全文
摘要:
HBase与Hive交互操作 1、环境准备 因为我们后续可能会在操作Hive的同时对HBase也会产生影响,所以Hive需要持有操作HBase的Jar,那么接下来拷贝Hive所依赖的Jar包(或者使用软连接的形式)。 同时在hive-site.xml中修改zookeeper的属性,如下: 2、案例1 阅读全文
摘要:
HBase与Sqoop集成 案例:将RDBMS中的数据抽取到HBase中 Step1、配置sqoop-env.sh如下: Step2、在Mysql中创建一张数据库library,一张表book Step3、向表中插入一些数据 完成后如图: Step4、执行Sqoop导入数据的操作 Step5、在HB 阅读全文
摘要:
BulkLoad加载文件到HBase表 1、功能 将本地数据导入到HBase中 2、原理 BulkLoad会将tsv/csv格式的文件编程hfile文件,然后再进行数据的导入,这样可以避免大量数据导入时造成的集群写入压力过大。 3、作用 4、案例 Step1、配置临时环境变量 $ export HB 阅读全文
摘要:
HBase Shell 1、status 例如:显示服务器状态 2、whoami 显示HBase当前用户,例如: 3、list 显示当前所有的表 4、count 统计指定表的记录数,例如: 5、describe 展示表结构信息 6、exists 检查表是否存在,适用于表量特别多的情况 7、is_en 阅读全文
摘要:
Base节点的管理 1、服役(commissioning) 当启动regionserver时,regionserver会向Hmaster注册并开始接收本地数据,开始的时候,新加入的节点不会有任何数据,平衡器开启的情况下,将会有新的region移动到开启的RegionServer上。如果启动和停止进程 阅读全文
摘要:
HBase读写流程 1、HBase读数据流程 HRegionServer保存着meta表以及表数据,要访问表数据,首先Client先去访问zookeeper,从zookeeper里面获取meta表所在的位置信息,即找到这个meta表在哪个HRegionServer上保存着。 接着Client通过刚才 阅读全文
摘要:
Hbase的API操作 一、解压Maven离线仓库到指定的目录 我这次使用的是linux环境下的eclipse来进行操作的,所以我们先配置linux的maven仓库,当然你也可以在window环境下进行操作然后打成jar包在linux下进行执行。 二、编写相应的代码 使用api进行hbase的创建表 阅读全文