solr6.4.1搜索引擎(5)使用zookeeper3.4.9分布式集群

本文讲的是如何使用zookeeper将solr分布式部署,也可以理解为tomcat分布式部署。
为什么要使用zookeeper,请参考文章《Solr的SolrCloud与Master-slave主从模式对比》http://blog.csdn.net/jiangchao858/article/details/53363310
尚未成功启动solr的,请看我的另一篇文章《solr6.4.1 搜索引擎(1)启动eclipse启动》http://www.cnblogs.com/zhuwenjoyce/p/6506359.html
solr尚未首次同步数据库的,请看我的另一篇文章《solr6.4.1搜索引擎(2)首次同步mysql数据库》http://www.cnblogs.com/zhuwenjoyce/p/6512378.html
 
软件安装准备
1,安装JDK1.8
2,下载zookeeper3.4.9
zookeeper官方版本下载地址: http://apache.fayea.com/zookeeper/
官方版本已经更新到zookeeper-3.5.2-alpha,但是是alpha内部测试版,所以我们下载一个稳定版本zookeeper-3.4.9就可以了
http://apache.fayea.com/zookeeper/zookeeper-3.4.9/zookeeper-3.4.9.tar.gz (22M)
3,下载solr6.4.1地址:http://archive.apache.org/dist/lucene/solr/ (149M)
4,下载tomcat8.0.28
http://archive.apache.org/dist/tomcat/tomcat-8/v8.0.28/bin/apache-tomcat-8.0.28.zip
 
一、solr集群准备
我在本机上模拟多台机器上的solr集群,所以是伪集群,新建目录如下:
D:\solr\solrCloud1 存放solr云的目录
D:\solr\solrCloud1\conf 存放solr云配置文件的目录,把D:\solr\solr-6.4.1\server\solr\configsets\sample_techproducts_configs\conf该目录下所有配置文件移动到该目录下
D:\solr\solrMachine1\ 代替原本需要真实集群的第一台机器目录
D:\solr\solrMachine2\ 代替原本需要真实集群的第二台机器目录
 
二、第一台机器集群准备
1)添加一个tomcat,端口号为9080,D:\solr\solrMachine1\apache-tomcat-8.0.28-9080
2)发布solr应用到该tomcat的webapp下,可以用war形式或者eclipse形式,可以参考我的文章《solr6.4.1 搜索引擎(1)启动eclipse启动》http://www.cnblogs.com/zhuwenjoyce/p/6506359.html
3)添加一个solrhome : D:\solr\solrMachine1\solrhome
4)修改D:\solr\solrMachine1\solrhome\solr.xml,把<int name="hostPort">${jetty.port:8983}</int>改为<int name="hostPort">${jetty.port:9080}</int>,因为solrhome的启动端口要与tomcat保持一致
5)修改tomcat的webapps目录下的solr应用的WEB-INF/web.xml(D:\solr\solrMachine1\apache-tomcat-8.0.28-9080\webapps\solr),solrhome的目录修改如下:
<env-entry>
<env-entry-name>solr/home</env-entry-name>
<env-entry-value>D:/solr/solrMachine1/solrhome</env-entry-value>
<env-entry-type>java.lang.String</env-entry-type>
</env-entry>
6)修改tomcat的D:\solr\solrMachine1\apache-tomcat-8.0.28-9080\bin\catalina.bat设置,使之可以被zookeeper识别,在setlocal之后换行添加如下内容:
set JAVA_OPTS=-Dbootstrap_confdir=D:/solr/solrCloud1/conf -Dcollection.configName=cloudconf -DzkHost=127.0.0.1:2181 -DnumShards=2
参数说明
-Dbootstrap_confdir 告诉zookeeper,solr云的配置文件存放目录在哪儿。PS: 主tomcat需要告诉zookeeper solr云的配置文件在哪儿
-Dcollection.configName 自定义一个config的名字
-DzkHost 告诉solr你的zookeeper部署在哪个IP上哪个端口
 
三、第二台机器集群准备
1)添加一个tomcat,端口号为9081,D:\solr\solrMachine2\apache-tomcat-8.0.28-9081
2)发布solr应用到该tomcat的webapp下,可以用war形式或者eclipse形式,可以参考我的文章《solr6.4.1 搜索引擎(1)启动eclipse启动》http://www.cnblogs.com/zhuwenjoyce/p/6506359.html。我在这里偷了个懒,当我的第一个solr应用在eclipse里成功发布到tomcat下之后,我就在eclipse里面复制了一个solr项目,命名为solr2。
3)添加一个solrhome : D:\solr\solrMachine2\solrhome
4)修改D:\solr\solrMachine2\solrhome\solr.xml,把<int name="hostPort">${jetty.port:8983}</int>改为<int name="hostPort">${jetty.port:9081}</int>,因为solrhome的启动端口要与tomcat保持一致
5)修改tomcat的webapps目录下的solr应用的WEB-INF/web.xml(D:\solr\solrMachine2\apache-tomcat-8.0.28-9081\webapps\solr2),solrhome的目录修改如下:
<env-entry>
<env-entry-name>solr/home</env-entry-name>
<env-entry-value>D:/solr/solrMachine2/solrhome</env-entry-value>
<env-entry-type>java.lang.String</env-entry-type>
</env-entry>
6)修改tomcat的D:\solr\solrMachine2\apache-tomcat-8.0.28-9081\bin\catalina.bat设置,使之可以被zookeeper识别,在setlocal之后换行添加如下内容:
set JAVA_OPTS=-DzkRun -DzkHost=localhost:2181
参数说明
-DzkRun 该参数将促使一个内嵌的 zookeeper 服务作为 Solr 服务的部分运行起来。
-DzkHost 告诉solr你的zookeeper部署在哪个IP上哪个端口
PS: 从tomcat不需要告诉zookeeper solr云的配置文件在哪儿,可以有多个tomcat都照此配置。
 
四、伪集群tomcat的准备工作
因为这里是伪集群,所以同时部署在同一个机器上的两个tomcat,端口必然不能重复:
D:\root\tomcat\apache-tomcat-8.0.28-9080 --端口9080,把8005和8009端口分别改为9001,9002
D:\root\tomcat\apache-tomcat-8.0.28-9081 --端口9081,把8005和8009端口分别改为9003,9004
到现在为止,我们已经使用-DzkHost=localhost:2181配置好了两个tomcat关联到zookeeper
 
五、zookeeper准备工作
下载后解压到目录D:/zookeeper-3.4.9
复制D:\zookeeper-3.4.9\conf\zoo_sample.cfg为zoo.cfg,修改zoo.cfg:
dataDir=D:/zookeeper-3.4.9/data --这里修改为实际的data数据目录
zookeeper的默认启动端口为2181
 
六、启动solr云
1)启动zookeeper3.4.9 D:\zookeeper-3.4.9\bin\zkServer.cmd
2)启动主tomcat D:\solr\solrMachine1\apache-tomcat-8.0.28-9080\bin\startup.bat
3)启动从tomcat D:\solr\solrMachine2\apache-tomcat-8.0.28-9081\bin\startup.bat
启动之后命令行窗口好多的打印!也不知道在打印个什么东西,第一次启动的时候我以为是solr应用在上传数据到zookeeper,因为我的solr索引已经达到110多万,后来我把索引数据清空了,还是有很多打印,不太明白为什么zookeeper在干什么。
 
七、访问solr云
在启动成功之后,随意访问任何一个tomcat,都可以查看到solr云已经成功显示,我这里访问的是http://localhost:9081/solr/index.html
点击Cloud菜单后,默认会进入Graph视图,该视图显示如下:
 
可以看到9080和9081两个分布式节点已经成功部署。
 
八、solr云失败频率高
不知道是本地内存不够还是zookeeper或者solr没有优化好,只要我点击Cloud菜单下的Tree或者Graph(Radial)子菜单,就一定会出现各种假死:
一个节点已经死了,另一个节点正在艰难恢复中。 ╯﹏╰
 
 
 
 
 
 
posted on 2017-03-14 17:36  梦幻朵颜  阅读(1036)  评论(0编辑  收藏  举报