架构深渊

慢慢走进程序的深渊……关注领域驱动设计、测试驱动开发、设计模式、企业应用架构模式……积累技术细节,以设计架构为宗。
  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

Analysis

Posted on 2008-09-15 15:34  chen eric  阅读(233)  评论(0编辑  收藏  举报


Analysis 

Analysis模块主要提供了文本解析的功能,输入为TextReader的字符流,最终解析成TokenStream形式的结果返回给调用端。由前文的NLucene架构图可以看出,Analysis主要为Index和QueryParser模块提供解析服务,分别是在Indexing原始文件和解析搜索语句中的Term的过程中。

要了解这个包,首先需要明确几个概念:

Ø         Token:

Ø         TokenType:

Ø         TokenStream: TokenStream是Token迭代器;

Ø         Analyzer: 一个Analyzer是一个TokenStream工厂;

Ø         Tokenizer:

Ø         TokenFilter:

类图如下所示:
Analyzer类族,作为Analyzer模块对外提供的接口,定义了基类Analyzer, 子类SimpleAnalyzer(简单分析器,只分词),StopAnalyzer(定义了StopTable,过滤Noise Word)以及标准分析器StandardAnalyzer。


然后定义了基类TokenStream,Next()为核心方法。此处应用了Decorate模式。