小试 solr 的 spellcheck
spellcheck 可以实现输入“错误”提示,如:输入“周杰仑”搜索时,提示:您是不是要找“周杰伦”。Lucene 有这样的功能。用 n-gram 方法和 Levenshtein distance (编辑距离,算相似度)算法实现。
原理大概:用正确的词条,以 n-gram 方法去折分,并建立索引(官方叫:dictionary index),在查询时,去查dictionary index,可以返回正确词条,于是这些词条就是“提示”。
solr 1.2 也有此功能。solr 1.3 用组件的方式实现此功能。我现用 solr 1.3 来试下。默认有spellcheck组件了(使已经配置好),这次我用文件源的方式,在solr.home/conf/spellings.txt文件后 加:周杰伦。注意一行一个词。
打开上面的连接后,返回的内容,可以下面看到,如下类似的内容:
- <lst name="spellcheck">
- <lst name="suggestions">
- <lst name="周杰仑">
- <int name="numFound">1</int>
- <int name="startOffset">0</int>
- <int name="endOffset">3</int>
- <arr name="suggestion">
- <str>周杰伦</str>
- </arr>
- </lst>
- </lst>
- </lst>
用文件源的方式,一个问题就是要自己去维护“正确的词条”,solr 还有其它方式:在索引中抽取比较高频的词条,这方面的应用,下次再总结与blog。