使用ycsb对hbase0.94.11 benchmark

Ycsb下载地址:https://github.com/brianfrankcooper/YCSB/releases

 

目前测试hbase0.94.11,因此下载ycsb-0.1.4.tar.gz

 

1.  解压缩ycsb:

         sudo tar -zxvf ycsb-0.1.4.tar.gz -C /usr/local

  sudo chmod -R cs ycsb-0.1.4.tar.gzycsb-0.1.4.tar.gz

 

2.将hbase/conf中的hbase-site.xml复制到ycsb /hbase/conf中。

 

3. 在hbase中创建测试表:

         create 'usertable','family'

        

4. 在ycsb目录下,进行加载数据:

         ycsb load hbase -P workloads/workloada -p table=usertable -p columnfamily=family -p recordcount=10000

        

         此时,会提示“java.lang.IllegalArgumentException: Not a host:port pair:”错误。这是因为版本不一致的问题

         打开ycsb的pom.xml文件,有这么一行:

  <hbase.version>0.90.5</hbase.version>

         因此官网上的编译好的ycsb0.1.4测试的默认是hbase0.90.5版本。此时需要重新编译ycsb源码和pom.xml。

  1. 下载ycsb源代码,将根目录下的pom.xml中<hbase.version>0.90.5</hbase.version>修改为对应版本;
  2. 将源代码中hbase文件夹中pom.xml中增加

    <dependency>

      <groupId>org.apache.hadoop</groupId>

      <artifactId>hadoop-core</artifactId>

      <version>1.1.2</version>

    </dependency>

                    因为habse0.94.11在hadoop1.1.2上运行的。

  3.使用maven进行编译,编译方法为在命令行中进入到源代码根目录,运行mvn clean package。maven需要联网环境才可以编译,因为编译的时候会自动下载相关库

(Maven下载地址: http://maven.apache.org/download.cgi

修改环境变量,在/etc/profile中添加以下几行

MAVEN_HOME=/usr/local/maven3

export MAVEN_HOME

export PATH=${PATH}:${MAVEN_HOME}/bin

执行source /etc/profile使环境变量生效

最后运行mvn -v验证maven是否安装成功

 

   4.编译完毕后,将hbase\target\hbase-binding.jar文件替换原来\ycsb-0.1.4\hbase-binding\lib中的对应的文件即可。

  5.将hbase目录下的hbase-site.xml文件拷贝到\ycsb-0.1.4\hbase-binding\conf\中。

 

 

继续运行  ycsb load hbase -P workloads/workloada -p table=usertable -p columnfamily=family -p recordcount=10000。

 

 

出现了“SLF4J: slf4j-api 1.6.x (or later) is incompatible with this binding. SLF4J: Your binding is version 1.5.5 or earlier. SLF4J: Upgrade your binding to version 1.6.x. or 2.0.x”的错误。

 

查看hbase的pom.xml文件,得知hbase的SLF4J是1.4.3版本。

查看ycsb的pom.xml文件,得知SLF4J是1.6.4版本。

 

为了保持habse服务端的配置不变,只能把ycsb的SLF4J的版本降低,因此重新把ycsb源代码中根目录下的pom.xml的SLF4J版本改为1.4.3重新编译,继续按照上述的步骤继续往下走。

测试成功。

5.在ycsb目录下,进行压力测试:

         ycsb run hbase -P workloads/workloada -p table=usertable -p columnfamily=family  -p operationcount=10000

         

 

posted @ 2019-03-11 14:02  _Meditation  阅读(216)  评论(0编辑  收藏  举报