Apache HBase Performance Tuning 官文总结

Apache HBase Performance Tuning

 

RAM, RAM, RAM. 不要让HBase饿死.

 

请使用64位的平台

 

必须将swapping设定为0

 

  • 老年代使用CMS垃圾算法，设置-XX:CMSInitiatingOccupancyFraction为60或者70（越小代表发生越多GC，CPU也会消耗越多）
  • 年轻代使用UseParNewGC算法
  • 使用MSLAB机制来放置memstore带来的内存碎片，将base.hregion.memstore.mslab.enabled设置为true即可，92之后的版本都是默认true的。
  • HBASE-8163单子介绍了MSLAB池的机制，可以更加有效的使用MSLAB
  • 除了8613单中提到的机制外也可以使用：XX:PretenureSizeThreshold设置的大小比hbase.hregion.memstore.mslab.chunksize大这样MSLAB的块将直接在老年去产生，避免不必要的年轻代拷贝升级
  • 其他关于一般的Java的GC可以参考Eliminating Large JVM GC Pauses Caused by Background IO Traffic
  • 重要配置
hbase.master.wait.on.regionservers.mintostart 大集群环境下增大此配置以防止region被分发到少数几台RS上
zookeeper.session.timeout
 默认3分钟，在JVM调优的情况下可以减少，宕机是可以尽处理宕机机器
 
dfs.datanode.failed.volumes.tolerated
  数据卷的损坏情况，这是一个hdfs的配置，默认为0当 
dfs.datanode.data.dir下面的任何卷的读写失败都会造成datanode的宕机
所以建议将此值设定为卷数的一半
 
hbase.regionserver.handler.count

这是服务端相应客户端请求的线程处理数，一般根据客户端的情况，如客户端每次都将

大数据put或者scan服务器，那么需要设置的小一点，如果每次交互数据量较小则可以

提高此参数，增加处理性能。
 hbase.ipc.server.max.callqueue.size

q请求队列，在纯写的情况可以增大，当有写负载的时候需要主要过大的配置有可能

带来OOM群体。
 
  •  启用ColumnFamily的压缩
  • 将WAL的文件大小设置为小于hdfs的块大小，并且最大wal文件数可以根据 (RS heap * memstore factor )/ wal size
  • 在对业务很了解的情况下可以关闭自动分裂，改为手动分裂，可以将hbase.hregion.max.filesize设置为一个超大值，比如100G但是不建议设置为无限大。
  • 对于与分裂region可以建议每台RS有10个与分裂region
  • 手动控制major cpmpaction来减轻业务压力
  • 在HBase纸上做MR任务的时候请关闭推测执行特性，将mapreduce.map.speculative and mapreduce.reduce.speculative设置为false
  • 配置中将ipc.server.tcpnodelay ==> true
    hbase.ipc.client.tcpnodelay ==> true 减少RPC延迟
  • MTTR设定：

    Set the following in the RegionServer.

    <property>
  <name>hbase.lease.recovery.dfs.timeout</name>
  <value>23000</value>
  <description>How much time we allow elapse between calls to recover lease.
  Should be larger than the dfs timeout.</description>
</property>
<property>
  <name>dfs.client.socket-timeout</name>
  <value>10000</value>
  <description>Down the DFS timeout from 60 to 10 seconds.</description>
</property>

    And on the NameNode/DataNode side, set the following to enable 'staleness' introduced in HDFS-3703, HDFS-3912.

    <property>
  <name>dfs.client.socket-timeout</name>
  <value>10000</value>
  <description>Down the DFS timeout from 60 to 10 seconds.</description>
</property>
<property>
  <name>dfs.datanode.socket.write.timeout</name>
  <value>10000</value>
  <description>Down the DFS timeout from 8 * 60 to 10 seconds.</description>
</property>
<property>
  <name>ipc.client.connect.timeout</name>
  <value>3000</value>
  <description>Down from 60 seconds to 3.</description>
</property>
<property>
  <name>ipc.client.connect.max.retries.on.timeouts</name>
  <value>2</value>
  <description>Down from 45 seconds to 3 (2 == 3 retries).</description>
</property>
<property>
  <name>dfs.namenode.avoid.read.stale.datanode</name>
  <value>true</value>
  <description>Enable stale state in hdfs</description>
</property>
<property>
  <name>dfs.namenode.stale.datanode.interval</name>
  <value>20000</value>
  <description>Down from default 30 seconds</description>
</property>
<property>
  <name>dfs.namenode.avoid.write.stale.datanode</name>
  <value>true</value>
  <description>Enable stale state in hdfs</description>
</property>

     

     

posted on 2018-03-28 16:53  xf-xrh-xf  阅读(462)  评论(0)  编辑  收藏  举报

导航