摘要: 1、介绍 在HBase中,namespace命名空间指对一组表的逻辑分组,类似RDBMS中的database,方便对表在业务上划分。Apache HBase从0.98.0, 0.95.2两个版本开始支持namespace级别的授权操作,HBase全局管理员可以创建、修改和回收namespace的授权。 2、namespace HBase系统默认定义了两个缺省的namespace hbase:... 阅读全文
posted @ 2017-12-18 21:42 心随风飞930 阅读(393) 评论(0) 推荐(0) 编辑
摘要: 一、服务端调优 1、参数配置 1)、hbase.regionserver.handler.count:该设置决定了处理RPC的线程数量,默认值是10,通常可以调大,比如:150,当请求内容很大(上MB,比如大的put、使用缓存的scans)的时候,如果该值设置过大则会占用过多的内存,导致频繁的GC, 阅读全文
posted @ 2017-12-18 21:38 心随风飞930 阅读(7265) 评论(0) 推荐(1) 编辑
摘要: 线上HBase集群应该如何进行参数配置?这其实是很多HBase初学者在实践环节都可能会遇到的问题,有些人会选择默认配置,有些人会选择其他公司的推荐配置;诚然,这样的参数配置在大多数情况下都能正常工作,但性能却未必最佳、资源未必都能被合理利用。本文结合笔者的实践经验,针对不同应用场景,对多种工作模式下 阅读全文
posted @ 2017-12-18 21:31 心随风飞930 阅读(434) 评论(0) 推荐(0) 编辑
摘要: 总结一下Spark中各个角色的JVM参数设置: (1)Driver的JVM参数:-Xmx,-Xms,如果是yarn-client模式,则默认读取spark-env文件中的SPARK_DRIVER_MEMORY值,-Xmx,-Xms值一样大小;如果是yarn-cluster模式,则读取的是spark- 阅读全文
posted @ 2017-12-18 21:29 心随风飞930 阅读(7035) 评论(0) 推荐(0) 编辑
摘要: Spark streaming接收Kafka数据 用spark streaming流式处理kafka中的数据,第一步当然是先把数据接收过来,转换为spark streaming中的数据结构Dstream。接收数据的方式有两种:1.利用Receiver接收数据,2.直接从kafka读取数据。 基于Re 阅读全文
posted @ 2017-12-18 21:25 心随风飞930 阅读(279) 评论(0) 推荐(0) 编辑
摘要: ZooKeeper是什么 ZooKeeper设计目的 ZooKeeper工作原理 Zookeeper的核心是原子广播,这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议(ZooKeeper Atomic Broadcast protocol)。Zab协议有两种模式,它们分别是 阅读全文
posted @ 2017-10-25 14:48 心随风飞930 阅读(324) 评论(0) 推荐(0) 编辑