搜索引擎之solr
1 Solr介绍
1.1 什么是solr
Solr 是Apache下的一个顶级开源项目,采用Java开发,它是基于Lucene的全文搜索服务器。Solr可以独立运行在Jetty、Tomcat等这些Servlet容器中。
Solr提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展,并对索引、搜索性能进行了优化。
使用Solr 进行创建索引和搜索索引的实现方法很简单,如下:
l 创建索引:客户端(可以是浏览器可以是Java程序)用 POST 方法向 Solr 服务器发送一个描述 Field 及其内容的 XML 文档,Solr服务器根据xml文档添加、删除、更新索引 。
l 搜索索引:客户端(可以是浏览器可以是Java程序)用 GET方法向 Solr 服务器发送请求,然后对 Solr服务器返回Xml、json等格式的查询结果进行解析,组织页面布局。Solr不提供构建页面UI的功能,但是Solr提供了一个管理界面,通过管理界面可以查询Solr的配置和运行情况。
1.2 Solr和Lucene的区别
Lucene是一个开放源代码的全文检索引擎工具包,它不是一个完整的全文检索应用。Lucene仅提供了完整的查询引擎和索引引擎,目的是为软件开发人员提供一个简单易用的工具包,以方便的在目标系统中实现全文检索的功能,或者以Lucene为基础构建全文检索应用。
Solr的目标是打造一款企业级的搜索引擎系统,它是基于Lucene一个搜索引擎服务,可以独立运行,通过Solr可以非常快速的构建企业的搜索引擎,通过Solr也可以高效的完成站内搜索功能。
2 Solr安装配置
2.1 SolrCore配置
2.1.1 SolrHome和SolrCore
SolrHome是Solr运行的主目录,该目录中包括了多个SolrCore目录。SolrCore目录中包含了运行Solr实例所有的配置文件和数据文件,Solr实例就是SolrCore。
一个SolrHome可以包括多个SolrCore(Solr实例),每个SolrCore提供单独的搜索和索引服务。
2.1.2 目录结构
SolrHome目录:
SolrCore目录:
2.1.2 创建SolrCore
创建SolrCore先要创建SolrHome。在solr解压包下solr-4.10.3\example\solr文件夹就是一个标准的SolrHome。
l 拷贝solr解压包下solr-4.10.3\example\solr文件夹。
l 复制该文件夹到本地的一个目录,把文件名称改为mySolrHome。
注:改名不是必须的,只是为了便于理解
进入此目录
SolrCore创建成功。
2.1.3 配置SolrCore
在conf文件夹下有一个solrconfig.xml。这个文件是来配置SolrCore实例的相关信息。如果使用默认配置可以不用做任何修改。它里面包含了不少标签,但是我们关注的标签为:lib标签、datadir标签、requestHandler标签。
2.1.4 lib 标签
将contrib和dist两个目录拷贝到mySolrHome目录下;
在solrconfig.xml中可以加载一些扩展的jar,solr.install.dir表示solrCore的目录位置,需要如下修改:
注意:把../..改为自己jar包存放的路径,才可以找到相关jar包。也可以配置相对路径:
2.2 datadir标签
每个SolrCore都有自己的索引文件目录 ,默认在SolrCore目录下的data中。
data数据目录下包括了index索引目录 和tlog日志文件目录。
如果不想使用默认的目录也可以通过solrConfig.xml更改索引目录 ,如下:
2.3 requestHandler标签
requestHandler请求处理器,定义了索引和搜索的访问方式。
通过/update维护索引,可以完成索引的添加、修改、删除操作。
提交xml、json数据完成索引维护,索引维护小节详细介绍。
通过/select搜索索引。
设置搜索参数完成搜索,搜索参数也可以设置一些默认值,如下:
<requestHandler name="/select" class="solr.SearchHandler">
<!-- 设置默认的参数值,可以在请求地址中修改这些参数-->
<lst name="defaults">
<str name="echoParams">explicit</str>
<int name="rows">10</int><!--显示数量-->
<str name="wt">json</str><!--显示格式-->
<str name="df">text</str><!--默认搜索字段-->
</lst>
</requestHandler>
3 Solr工程部署
由于在项目中用到的web服务器大多数是用的Tomcat,所以就讲solr和Tomcat的整合。
3.1 安装Tomcat
3.2 把solr.war部署到Tomcat中
1、 从solr解压包下的solr-4.10.3\example\webapps目录中拷贝solr.war
3.3 添加solr服务的扩展依赖包(日志包)
l 把solr解压包下的solr-4.10.3\example\lib\ext目录下的所有jar包拷贝。
l 复制到解压缩后的solr工程的WEB-INF\lib目录
3.4 添加log4j.properties
1、 把solr解压包下solr-4.10.3\example\resources\log4j.properties文件进行拷贝
2、 在解压缩后的solr工程中的WEB-INF目录中创建classes文件夹
3、 复制log4j.properties文件到刚创建的classes目录
3.5 在solr应用的web.xml文件中,加载SolrHome
修改web.xml使用jndi的方式告诉solr服务器。
Solr/home名称必须是固定的。
4 启动Tomcat进行访问
先启动部署了solr项目的tomcat服务器,再访问http://localhost:8080/solr/
出现以下界面则说明solr安装成功!!!
5 Solrj的使用
5.1 什么是solrj
solrj是访问Solr服务的java客户端,提供索引和搜索的请求方法,SolrJ通常在嵌入在业务系统中,通过SolrJ的API接口操作Solr服务,如下图:
Solrj和图形界面操作的区别就类似于数据库中你使用jdbc和mysql客户端的区别一样。
代码示例:
1 添加jar
1 package cn.xjy.test ; 2 3 import java.io.IOException ; 4 import java.util.List ; 5 import java.util.Map ; 6 import org.apache.solr.client.solrj.SolrQuery ; 7 import org.apache.solr.client.solrj.SolrQuery.ORDER ; 8 import org.apache.solr.client.solrj.SolrServer ; 9 import org.apache.solr.client.solrj.impl.HttpSolrServer ; 10 import org.apache.solr.client.solrj.response.QueryResponse ; 11 import org.apache.solr.common.SolrDocument ; 12 import org.apache.solr.common.SolrDocumentList ; 13 import org.apache.solr.common.SolrInputDocument ; 14 import org.junit.Before ; 15 import org.junit.Test ; 16 17 public class TestSolrJ { 18 19 SolrServer solrServer = null ; 20 21 @Before 22 public void init() { 23 // 1、 创建HttpSolrServer对象,通过它和Solr服务器建立连接。 24 // 参数:solr服务器的访问地址 25 solrServer = new HttpSolrServer("http://localhost:8080/solr/collection2") ; 26 } 27 28 /** 29 * 更新或添加 30 * 存在就更新,不存在就添加(根据id判断) 31 * @throws Exception 32 * @throws IOException 33 */ 34 @Test 35 public void testAddandUpdate() throws Exception, IOException { 36 37 // 2、 创建SolrInputDocument对象,然后通过它来添加域。 38 SolrInputDocument doc = new SolrInputDocument() ; 39 40 /* 测试添加 */ 41 /* doc.addField("id","测试1"); doc.addField("product_name","测试name"); 42 * doc.addField("product_catalog_name","测试product_catalog_name"); 43 * doc.addField("product_price",22f); 44 * doc.addField("product_description","测试product_description"); 45 * doc.addField("product_picture","测试product_picture"); */ 46 47 /* 测试更新 */ 48 49 // 第一个参数:域的名称,域的名称必须是在schema.xml中定义的 50 // 第二个参数:域的值 51 // 注意:id的域不能少 52 doc.addField("id", "测试1") ; 53 doc.addField("product_name", "测试更新name") ; 54 doc.addField("product_catalog_name", "测试更新product_catalog_name") ; 55 doc.addField("product_price", 23f) ; 56 doc.addField("product_description", "测试更新product_description") ; 57 doc.addField("product_picture", "测试更新product_picture") ; 58 59 // 3、 通过HttpSolrServer对象将SolrInputDocument添加到索引库。 60 solrServer.add(doc) ; 61 62 // 4、 提交。 63 solrServer.commit() ; 64 } 65 66 /** 67 * 删除索引 68 * @throws Exception 69 */ 70 @Test 71 public void testDelete() throws Exception { 72 // 根据id删除 73 /* solrServer.deleteById("测试1") ; solrServer.commit(); */ 74 75 // 根据条件删除 76 solrServer.deleteByQuery("product_price:23") ; 77 78 // 全部删除 79 // solrServer.deleteByQuery("*:*"); 80 solrServer.commit() ; 81 } 82 83 /** 84 * 简单查询 85 * @throws Exception 86 */ 87 @Test 88 public void testSimpleQuery() throws Exception { 89 90 SolrQuery query = new SolrQuery() ; 91 // q是固定的且必须 的 92 query.set("q", "id:测试1") ; 93 query.set("fl", "id,product_catalog_name") ; 94 // query.setFields("id", "product_catalog_name");//效果同上 95 96 QueryResponse queryResponse = solrServer.query(query) ; 97 98 SolrDocumentList results = queryResponse.getResults() ; 99 100 System.out.println("总数:" + results.getNumFound()) ; 101 102 for (SolrDocument solrDocument : results) { 103 // System.out.println(solrDocument.get("id")) ; 104 System.out.println(solrDocument) ; 105 } 106 } 107 108 /** 109 * 复杂查询 110 * @throws Exception 111 */ 112 @Test 113 public void testComplexQuery() throws Exception { 114 SolrServer solrServer2 = new HttpSolrServer("http://localhost:8080/solr") ; 115 116 SolrQuery query = new SolrQuery() ; 117 118 // 查询条件 119 query.setQuery("product_catalog_name:幽默杂货") ; 120 121 // 过滤条件 122 query.setFilterQueries("product_catalog_name:幽默杂货") ; 123 124 // 按指定字段排序 125 query.setSort("id", ORDER.desc) ; 126 127 // 分页 128 query.setStart(0) ; 129 query.setRows(100) ; 130 131 // 设置要显示的字段 132 // query.setFields("id,product_catalog_name") ; 133 134 // 设置默认搜索域 135 // query.set("df", "product_name"); 136 137 // 给特定字段设置样式,要显示样式的字段必须是查询条件中的字段 138 query.setHighlight(true) ; 139 query.addHighlightField("product_catalog_name") ; 140 query.setHighlightSimplePre("<span color='red'>") ; 141 query.setHighlightSimplePost("</sapn>") ; 142 143 // 查询 144 QueryResponse queryResponse = solrServer2.query(query) ; 145 146 // 获得结果集 147 SolrDocumentList results = queryResponse.getResults() ; 148 149 System.out.println("总数:" + results.getNumFound()) ; 150 151 // 遍历结果集 152 for (SolrDocument solrDocument : results) { 153 Map<String, Map<String, List<String>>> highlighting = queryResponse.getHighlighting() ; 154 System.out.println(highlighting.get(solrDocument.get("id"))) ; 155 System.out.println(solrDocument) ; 156 } 157 } 158 }