利用分词技术实现,生成两个字符串匹配度和相似率。
业务场景是客户在业务办理时候需要提交一个材料列表,材料会入材料库,下次客户再来办理业务时候输入客户的身份证,会通过材料库进行加载,我们通过材料名称匹配材料相似度就不用再手动上传材料。(首先需要IKAnalyzer2012FF_u1.jar 进行下载支持的jar)
1.以下是对两个词进行处理的核心算法
package com.ikanalyzer; import java.util.HashMap; import java.util.Iterator; import java.util.Map; import java.util.Vector; /** * Description:相似度百分比 * @author: administrator * @Date: 2015-1-22下午1:20:34 * @version 1.0 */ public class IKAnalyzerUtil { //阈值 public static double YUZHI = 0.2 ; /** * 返回百分比 * @author: Administrator * @Date: 2015年1月22日 * @param T1 * @param T2 * @return */ public static double getSimilarity(Vector<String> T1, Vector<String> T2) throws Exception { int size = 0 , size2 = 0 ; if ( T1 != null && ( size = T1.size() ) > 0 && T2 != null && ( size2 = T2.size() ) > 0 ) { Map<String, double[]> T = new HashMap<String, double[]>(); //T1和T2的并集T String index = null ; for ( int i = 0 ; i < size ; i++ ) { index = T1.get(i) ; if( index != null){ double[] c = T.get(index); c = new double[2]; c[0] = 1; //T1的语义分数Ci c[1] = YUZHI;//T2的语义分数Ci T.put( index, c ); } } for ( int i = 0; i < size2 ; i++ ) { index = T2.get(i) ; if( index != null ){ double[] c = T.get( index ); if( c != null && c.length == 2 ){ c[1] = 1; //T2中也存在,T2的语义分数=1 }else { c = new double[2]; c[0] = YUZHI; //T1的语义分数Ci c[1] = 1; //T2的语义分数Ci T.put( index , c ); } } } //开始计算,百分比 Iterator<String> it = T.keySet().iterator(); double s1 = 0 , s2 = 0, Ssum = 0; //S1、S2 while( it.hasNext() ){ double[] c = T.get( it.next() ); Ssum += c[0]*c[1]; s1 += c[0]*c[0]; s2 += c[1]*c[1]; } //百分比 return Ssum / Math.sqrt( s1*s2 ); } else { throw new Exception("传入参数有问题!"); } } }
2.以下是调用方法进行分词处理返回两个词的相似度
package com.ikanalyzer; import java.io.IOException; import java.io.StringReader; import java.util.Vector; import org.wltea.analyzer.core.IKSegmenter; import org.wltea.analyzer.core.Lexeme; public class CheckTheSame { /** * 分词 * @author: administrator * @Date: 2016年3月5日15:10:47 * @param str * @return */ public static Vector<String> participle( String str ) { Vector<String> str1 = new Vector<String>() ;//对输入进行分词 try { StringReader reader = new StringReader( str ); IKSegmenter ik = new IKSegmenter(reader,false);//当为true时,分词器进行智能切分 Lexeme lexeme = null ; while( ( lexeme = ik.next() ) != null ) { str1.add( lexeme.getLexemeText() ); } if( str1.size() == 0 ) { return null ; } //分词后 // System.out.println( "str分词后:" + str1 ); } catch ( IOException e1 ) { //System.out.println(); } return str1; } /** * 返回比较的两个字符串的相似度 * @param strone * @param strtwo * @return */ public String getSemblance(String strone,String strtwo) { String semblanceString = "0.0000"; //分词 Vector<String> strs1 = participle(strone) ; Vector<String> strs2 = participle(strtwo) ; //根据分词返回相似度 double same = 0 ; try { same = IKAnalyzerUtil.getSimilarity( strs1 , strs2 ); } catch (Exception e) { //System.out.println( e.getMessage() ); } semblanceString=String.valueOf(same); //System.out.println( "相似度:" + same ); return semblanceString; } public static void main(String[] args) { //分词 Vector<String> strs1 = participle( "身份证明" ) ; Vector<String> strs2 = participle( "个人身份证明复印件" ) ; //根据分词返回相似度 double same = 0 ; try { same = IKAnalyzerUtil.getSimilarity( strs1 , strs2 ); } catch (Exception e) { System.out.println( e.getMessage() ); } System.out.println( "相似度:" + same ); } }
具体在实现中如下
ikanalyzer还有好多算法去进行相似度匹配忘以后更加研究