Lucene的多域查询、结果中查询、查询结果分页、高亮查询结果和结果评分

1.针对多个域的一次性查询

1.1.三种方案    

    使用lucene构造搜索引擎的时候,如果要针对多个域进行一次性查询,一般来说有三种方法:
    第一种实现方法是创建多值的全包含域的文本进行索引,这个方案最简单。但是这个防范有个缺点:你不能直接对每个域的加权进行控制。
    第二种方法是使用MultiFieldQueryParser,它是QueryParser的子类,它会在后台程序中实例化一个QueryParser对象,用来针对每个域进行查询表达式的解析,然后使用BooleanQuery将查询结果合并起来。当程序向BooleanQuery添加查询子句时,默认操作符OR被用于最简单的解析方法中。为了实现更好的控制,布尔操作符可以使用BooleanClause的常量指定给每个域。如果需要指定的话可以使用BooleanClause.Occur.MUST,如果禁止指定可以使用BooleanClause.Occur.MUST_NOT,或者普通情况为BooleanClause.Occur.SHOULD。下面的程序展示的是如何创建MultiFieldQueryParser类的方法:
  1. // 在这四个域中检索  
  2. String[] fields = { "phoneType""name""category""price" };  
  3. Query query = new MultiFieldQueryParser(Version.LUCENE_36, fields, analyzer).parse(keyword);  
    第三种方法就是使用高级DisjunctionMaxQuery类,它会封装一个或者多个任意的查询,将匹配的文档进行OR操作。

1.2.方案选择

    以上三种方案中,并不是第三种方案最好,也不是第一种方案就最差。哪种实现方式更适合你的应用程序呢?答案是“看情况”,因为这里存在一些取舍。全包含域是一个简单的解决方案——但这个方案只能对搜索结果进行简单的排序并且可能浪费磁盘空间(程序可能对同样的文本索引两次),但这个方案可能会获得最好的搜索性能。
    MultiFieldQueryParser生成的BooleanQuery会计算所有查询所匹配的文档评分的总和(DisjunctionMaxQuery则只选取最大评分),然后它能够实现针对每个域的加权。你必须对以上3中解决方案都进行测试,同时需要一起考虑搜索性能和搜索相关性,然后再找出最佳方案。
 

2.在结果中查询

2.1.两种方案

    在检索结果中再次进行检索,是一个很常见的需求,一般有两种方案可以选择:
    ①使用QueryFilter把第一个查询当作一个过滤器处理;
    ②用BooleanQuery把前后两个查询结合起来,并且使用BooleanClause.Occur.MUST。
    针对第一种方法,我需要解释一下。QueryFilter在Lucene的2.x版本中是存在的,但是在3.x中,lucene的API中这个类已经被废弃了,无法再找到。如果你的项目使用的是lucene是3.x,但是你又一定要使用QueryFilter,那么你必须自己创建一个QueryFilter类,然后将2.x中QueryFilter的源代码复制过来。你可能会说,直接在工程中同时使用lucene2.x和3.x的核心jar文件不就行了吗。但遗憾的是,一个工程下,是不能同时使用不同版本的lucene的。

2.2.QueryFilter方案

上文已经说了,如果一定要使用QueryFilter,由于lucene2.x中没有QueryFilter的API,所以自己要写一个QueryFilter,QueryFilter的源代码在lucene2.x中是这样的:
  1. import org.apache.lucene.search.CachingWrapperFilter;  
  2. import org.apache.lucene.search.Query;  
  3. import org.apache.lucene.search.QueryWrapperFilter;  
  4.   
  5. public class QueryFilter extends CachingWrapperFilter {  
  6.   
  7.     /** 
  8.      * Constructs a filter which only matches documents matching 
  9.      * <code>query</code>. 
  10.      */  
  11.     public QueryFilter(Query query) {  
  12.         super(new QueryWrapperFilter(query));  
  13.     }  
  14.   
  15.     public boolean equals(Object o) {  
  16.         return super.equals((QueryFilter) o);  
  17.     }  
  18.   
  19.     public int hashCode() {  
  20.         return super.hashCode() ^ 0x923F64B9;  
  21.     }  
  22. }  
第一种方案的例子程序如下:
  1. //简单实现对keyword的搜索  
  2.  public static void search(String keyword) throws IOException, ParseException {  
  3.          QueryParser queryParser = new QueryParser("content",new SimpleAnalyzer());  
  4.          Query query = queryParser.parse(keyword.trim());  
  5.          QueryFilter filter = new QueryFilter(query);  
  6.          //检索  
  7.          search(query, filter);  
  8.  }  
  9.    
  10.  //在搜索oldKeyword的结果集中搜索newKeyword  
  11.  public static void searchInResult(String newKeyword, String oldKeyword) throws ParseException, IOException {                  
  12.          QueryParser queryParser = new QueryParser("content",new SimpleAnalyzer());  
  13.          Query query = queryParser.parse(newKeyword.trim());  
  14.          Query oldQuery = queryParser.parse(oldKeyword.trim());  
  15.          QueryFilter oldFilter = new QueryFilter(oldQuery);  
  16.          CachingWrapperFilter filter = new CachingWrapperFilter(oldFilter);  
  17.          //检索  
  18.          search(query, filter);  
  19.  }  
  20.    
  21.  private static void search(Query query, Filter filter) throws IOException, ParseException {  
  22.          IndexSearcher ins = new IndexSearcher("d:/tesindex");  
  23.          Hits hits = ins.search(query, filter);  
  24.          for (int i = 0; i < hits.length(); i++) {  
  25.                  Document doc = hits.doc(i);  
  26.                  System.out.println(doc.get("content"));  
  27.          }  
  28.  }  

2.3.BooleanQuery方案

    使用BooleanQuery来实现在结果中检索的过程是这样的,首先通过关键字keyword1正常检索,当用户需要在检索结果中再通过关键字keyword2检索的时候,通过构建BooleanQuery,来实现对在结果中检索的效果。这里要注意,这两个关键字都要使用BooleanClause.Occur.MUST。
  1. //创建BooleanQuery  
  2. BooleanQuery booleanQuery = new BooleanQuery();  
  3. //多域检索,在这四个域中检索  
  4. String[] fields = { "phoneType""name""category","free" };  
  5. Query multiFieldQuery = new MultiFieldQueryParser(Version.LUCENE_36, fields, analyzer).parse(keyword);  
  6. //将multiFieldQuery添加到BooleanQuery中  
  7. booleanQuery.add(multiFieldQuery, BooleanClause.Occur.MUST);  
  8. //如果osKeyword不为空  
  9. if(osKeyword != null && !osKeyword.equals("") && !osKeyword.equals("null")){  
  10.     TermQuery osQuery = new TermQuery(new Term("phoneType",osKeyword));   
  11.     //将osQuery添加到BooleanQuery中  
  12.     booleanQuery.add(osQuery, BooleanClause.Occur.MUST);  
  13. }  

3.检索结果分页

3.1.两种方案

    通过关键字的检索,当lucene返回多条记录的时候,往往一个页面是无法容纳所有检索结果的,这自然而然就该分页了。我这里给出两种方案,这两种方法我都是用过。
    第一种方法,就是讲检索结果全部封装在一个Collection中,例如List中,将这个结果传到前台,如jsp页面。然后在这个list中进行分页显示;
    第二种方法,是使用lucene自带的分页工具public TopDocs topDocs(int start,int howMany)。
    我认为,第一种方法不涉及二次查询,这样的话就避免了在查询上的浪费。但是当检索的结果数据量很大,这样一次性传输这么多数据到客户端,而用户检索后得到的结果往往只会查看第一页的内容,很少去查看第二页、第三页以及后面的内容,所以一次性将全部结果传到前台,这样的浪费是很大的。
    第二种方法,虽然每次翻页都意味着一次查询,表面上浪费了资源,但是由于lucene的高效,这样的浪费对整个系统的影响是微乎其微的,但是这个方法避免了方法一中的缺陷。

3.2.分页实现

  1. /** 
  2.      * 对搜索返回的前n条结果进行分页显示 
  3.      * @param keyWord       查询关键词 
  4.      * @param pageSize      每页显示记录数 
  5.      * @param currentPage   当前页  
  6.      */  
  7.     public void paginationQuery(String keyWord,int pageSize,int currentPage) throws ParseException, CorruptIndexException, IOException {  
  8.         String[] fields = {"title","content"};  
  9.         QueryParser queryParser = new MultiFieldQueryParser(Version.LUCENE_36,fields,analyzer);  
  10.         Query query = queryParser.parse(keyWord);  
  11.            
  12.         IndexReader indexReader  = IndexReader.open(directory);  
  13.         IndexSearcher indexSearcher = new IndexSearcher(indexReader);  
  14.            
  15.         //TopDocs 搜索返回的结果  
  16.         TopDocs topDocs = indexSearcher.search(query, 100);//只返回前100条记录  
  17.         int totalCount = topDocs.totalHits; // 搜索结果总数量  
  18.         ScoreDoc[] scoreDocs = topDocs.scoreDocs; // 搜索返回的结果集合  
  19.            
  20.         //查询起始记录位置  
  21.         int begin = pageSize * (currentPage - 1) ;  
  22.         //查询终止记录位置  
  23.         int end = Math.min(begin + pageSize, scoreDocs.length);  
  24.            
  25.         //进行分页查询  
  26.         for(int i=begin;i<end;i++) {  
  27.             int docID = scoreDocs[i].doc;  
  28.             Document doc = indexSearcher.doc(docID);  
  29.             int id = NumericUtils.prefixCodedToInt(doc.get("id"));  
  30.             String title = doc.get("title");  
  31.             System.out.println("id is : "+id);  
  32.             System.out.println("title is : "+title);  
  33.         }     
  34.     }  

4.高亮检索结果

    针对检索结果的高亮实现方法,在lucene中提供了响应的工具,这里使用lucene-highlighter-3.6.2.jar来实现对检索结果的高亮显示。
  1. public void search(String fieldName, String keyword)throws CorruptIndexException, IOException, ParseException {  
  2.     searcher = new IndexSearcher(indexPath);  
  3.     QueryParser queryParse = new QueryParser(fieldName, analyzer); // 构造QueryParser,解析用户输入的检索关键字  
  4.     Query query = queryParse.parse(keyword);  
  5.     Hits hits = searcher.search(query);  
  6.     for (int i = 0; i < hits.length(); i++) {  
  7.         Document doc = hits.doc(i);  
  8.         String text = doc.get(fieldName);  
  9.         SimpleHTMLFormatter simpleHTMLFormatter = new SimpleHTMLFormatter("<font color='red'>""</font>");  
  10.         Highlighter highlighter = new Highlighter(simpleHTMLFormatter, new QueryScorer(query));  
  11.         highlighter.setTextFragmenter(new SimpleFragmenter(text.length()));  
  12.         if (text != null) {  
  13.             TokenStream tokenStream = analyzer.tokenStream(fieldName,new StringReader(text));  
  14.             String highLightText = highlighter.getBestFragment(tokenStream,text);  
  15.             System.out.println("高亮显示第 " + (i + 1) + " 条检索结果如下所示:");  
  16.             System.out.println(highLightText);  
  17.         }  
  18.     }  
  19.     searcher.close();  
  20. }  
上文的一行判断语句很重要:if(text != null),如果text为空,那么显示结果不但没有被高亮,而且得到的原始结果也会被过滤。可以再代码中加上,如果text==null,则让将原始检索结果赋给text,从而将结果显示出来。
 

5.检索结果的评分

    lucene的评分是有一套自己的机制的,输入某一个关键字,lucene会对命中的记录进行评分,默认情况下,分数越高的结果会排在结果的越前面。如果在创建索引的时候,没有对某个域进行加权,那么默认分数的上限是5分,如果有对域做加权,检索结果的评分可能会出现大于5分的情况。
    我们可以使用explain()来看看lucene对检索结果的评分情况:
  1. //评分  
  2. Explanation explanation = indexSearcher.explain(query, docID);  
  3. System.out.println(explanation.toString());  
在后台打印出来的信息如下:
[plain] view plaincopy
  1. 2.4342022 = (MATCH) weight(name:books in 71491), product of:  
  2.        0.2964393 = queryWeight(name:books), product of:  
  3.          8.21147 = idf(docFreq=109, maxDocs=149037)  
  4.          0.036100637 = queryNorm  
posted @ 2013-12-21 09:23  郑文亮  阅读(9787)  评论(2编辑  收藏  举报