Storm集群的安装与测试
首先安装zookeeper集群,然后安装storm集群。
我使用的是centos 32bit的三台虚拟机.
MachineName |
ip |
namenode |
192.168.99.110 |
datanode01 |
192.168.99.111 |
datanode02 |
192.168.99.112 |
首先配置好ssh,可以无密码互访。
安装好jdk,我本机安装的是1.7.
安装好python.机器自带2.6.6.
安装zookeeper的时候,下载文件,解压,在
/etc/profile 中设置环境变量。
修改zoo.cfg,生成myid。
需要注意一点的时,我在测试zookeeper集群的时候,
我们需要分别启动每个结点的zookeeper,
我开始以为是hadoop集群一样,在namenode上启动一下就好了。
但zookeeper是去中心化的设计,不一样的。
以下是截图和说明。
下载并解压storm文件
http://apache.dataguru.cn/storm/apache-storm-0.9.5/
http://apache.dataguru.cn/storm/apache-storm-0.9.5/apache-storm-0.9.5.tar.gz
tar xvf apache-storm-0.9.5.tar.gz
mv apache-storm-0.9.5 /app/storm095
设置环境变量
cd /app/storm095 echo "export STORM_HOME=$(pwd)" >>~/.bashrc echo 'export PATH=$PATH:$STORM_HOME/bin' >>~/.bashrc source ~/.bashrc
Storm 配置文件storm.yaml,一定要注意其格式(冒号后面有空格),否则序列化会失败,造成启动失败。
使用的启动命令:
Bin/storm nimbus &
Bin/storm ui &
Bin/storm logviewer &
Bin/storm supervisor &
以上是zookeeper集群的成功运行截图。
下面是storm的安装与例子执行的情况。
默认的Web服务端口号是8080. 输入 nimbus运行所在机器的ip:8080查看集群的状态和作业情况。
cat README.markdown
仔细阅读这里面,有如何进行简单的测试的命令,我执行了:
mvn clean install -DskipTests=true
mvn compile exec:java -Dstorm.topology=storm.starter.WordCountTopology
还有更多的指示,可以进行练习。