部分文章内容为公开资料查询整理,原文出处可能未标注,如有侵权,请联系我,谢谢。邮箱地址:gnivor@163.com ►►►需要气球么?请点击我吧!

zookeeper笔记--配置以及和spark hbase结合使用

Spark集群基于ZooKeeper的搭建:http://www.dataguru.cn/thread-333245-1-1.html

Spark需要修改的地方:

进入spark的配置目录,参照下面代码修改spark-env.sh

export SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=node4:2181,node3:2181 -Dspark.deploy.zookeeper.dir=/spark"
export JAVA_HOME=/usr/local/bin/jdk1.7.0_71
#export SPARK_MASTER_IP=node4
#export SPARK_MASTER_PORT=7077
export SPARK_WORKER_CORES=2
export SPARK_WORKER_INSTANCES=1
export SPARK_WORKER_MEMORY=1g

 

hbase+zookeeper:

不错的资料  http://blog.csdn.net/lxf310/article/details/17263337
http://my.oschina.net/hanzhankang/blog/129335

posted @ 2015-10-25 20:40  流了个火  阅读(270)  评论(0编辑  收藏  举报
►►►需要气球么?请点击我吧!►►►
View My Stats