站内搜索--3--之Lucene.Net使用

上一篇 站内搜索---2----之Log4Net使用 

 Lucene.Net是由Java版本的Lucene移植过来的,所有的类、方法都几乎和Lucene一模一样。

 Lucene.Net只是一个全文检索开发包,不是一个成型的搜索引擎,它的功能就是:把数据提交给Lucene.Net 处理,查询数据的时候从Lucene.Net 查询数据,可以看做是提供了全文检索功能的一个数据库。Lucene.Net不管文本数据怎么来的。用户可以基于Lucene.Net开发满足自己需求的搜索引擎。 Lucene.Net只能对文本信息进行检索。如果不是文本信息,要转换为文本信息,比如要检索Excel文件,就要用NPOI把Excel读取成字符串,然后把字符串提交给Lucene.Net处理。Lucene.Net会把提交过来的文本切词保存,加快检索速度。midomi.com一个根据音频搜索音乐的案例。

 

 

 分词是核心的算法,搜索引擎内部保存的就是一个个的“词(Word)”。英文分词很简单,按照空格分隔就可以。中文则麻烦,把“我爱编程”拆成“我 爱 编程”。

  标点符号,语气助词”啊,哦,也”等等对于搜索来说无意义的词一般都属于不参与分词的无意义单词。

 Lucene.Net中不同的分词算法就是不同的类。所有分词算法类都从Analyzer类继承,不同的分词算法有不同的优缺点。

 (*)内置的StandardAnalyzer是将英文按照空格、标点符号等进行分词,将中文按照单个字进行分词,一个汉字算一个词。不够好所以后面使用盘古分词

 (*)二元分词算法,每两个汉字算一个单词,“欢迎你们大家”会分词为“欢迎   迎你  你们  们大  大家”,网上找到的一个二元分词算法CJKAnalyzer。

基于词库的分词算法,基于一个词库进行分词,可以提高分词的成功率。有庖丁解牛、盘古分词等。

  1. 使用时将\Lucene.Net2.9.2\bin\Release下Lucene.Net.dll、Lucene.Net.xml、Lucene.Net.pdb拷贝到项目的某个文件夹如(lib)下然后在项目中添加对dll的引用

 

Lucene.Net核心类简介

 Directory表示索引文件(Lucene.net用来保存用户扔过来的数据的地方)保存的地方,是抽象类,两个子类FSDirectory(文件中)、RAMDirectory (内存中)。使用的时候别和IO里的Directory弄混了

  创建FSDirectory的方法,FSDirectory directory = FSDirectory.Open(new DirectoryInfo(indexPath),new NativeFSLockFactory()), path索引的文件夹路径

   IndexReader对索引进行读取的类,IndexWriter对索引进行写的类。

  IndexReader的静态方法bool IndexExists(Directory directory)判断目录directory是否是一个索引目录。IndexWriter的bool IsLocked(Directory directory) 判断目录是否锁定,在对目录写之前会先把目录锁定。两个IndexWriter没法同时写一个索引文件。IndexWriter在进行写操作的时候会自动加锁,close的时候会自动解锁。IndexWriter.Unlock方法手动解锁(比如还没来得及close IndexWriter 程序就崩溃了,可能造成一直被锁定)。

 

创建索引

   构造函数:IndexWriter(Directory dir, Analyzer a, bool create, MaxFieldLength mfl)因为IndexWriter把输入写入索引的时候,Lucene.net将写入的文件用指定的分词算法将文章分词(这样检索的时候才能查的快),然后将词放入索引文件。

   void AddDocument(Document doc),向索引中添加文档(Insert)。Document类代表要索引的文档(文章),最重要的方法Add(Field field),向文档中添加字段。Document是一篇文档,Field是字段(属性)。Document相当于一条记录,Field相当于字段。

   Field类的构造函数 Field(string name, string value, Field.Store store, Field.Index index, Field.TermVector termVector):

 name表示字段名; value表示字段值;

store表示是否存储value值,可选值 Field.Store.YES存储, Field.Store.NO不存储, Field.Store.COMPRESS压缩存储;默认只保存分词以后的一堆词,而不保存分词之前的内容,搜索的时候无法根据分词后的词还原原文,因此如果要显示原文(比如文章正文)则需要设置存储。

 index表示如何创建索引,可选值Field.Index. NOT_ANALYZED(不创建索引),Field.Index. ANALYZED(创建索引);创建索引的字段才可以比较好的检索。是否需要按照这个字段进行“全文检索”。

termVector表示如何保存索引词之间的距离。“北京欢迎你们大家”,索引中是如何保存“北京”和“大家”之间“隔多少单词”。方便只检索在一定距离之内的词。

 

搜索

   IndexSearcher是进行搜索的类,构造函数传递一个IndexReader。IndexSearcher的void Search(Query query, Filter filter, Collector results)方法用来搜索,Query是查询条件, filter在本篇中传递null, results是检索结果,TopScoreDocCollector.create(1000, true)方法创建一个Collector,1000表示最多结果条数,Collector就是一个结果收集器。

  Query有很多子类,PhraseQuery是一个子类。 PhraseQuery用来进行多个关键词的检索,调用Add方法添加关键词,query.Add(new Term("字段名", 关键词)),PhraseQuery. SetSlop(int slop)用来设置关键词之间的最大距离,默认是0,设置了Slop以后哪怕文档中两个关键词之间没有紧挨着也能找到。

query.Add(new Term("字段名", 关键词1))

query.Add(new Term("字段名", 关键词2))

类似于:where 字段名 contains 关键词1 and 字段名 contais 关键词

   调用TopScoreDocCollector的GetTotalHits()方法得到搜索结果条数,调用Hits的TopDocs TopDocs(int start, int howMany)得到一个范围内的结果(分页),TopDocs的scoreDocs字段是结果ScoreDoc数组, ScoreDoc 的doc字段为Lucene.Net为文档分配的id(为降低内存占用,只先返回文档id),根据这个id调用searcher的Doc方法就能拿到Document了(放进去的是Document,取出来的也是Document);调用doc.Get("字段名")可以得到文档指定字段的值,注意只有Store.YES的字段才能得到,因为Store.NO的没有保存全部内容,只保存了分割后的词。

 

 

posted on 2013-01-11 19:39  aolinwxfx  阅读(395)  评论(0编辑  收藏  举报

导航