计算字符串相似度算法——Levenshtein

0.这个算法实现起来很简单

1.百度百科介绍：

Levenshtein 距离，又称编辑距离，指的是两个字符串之间，由一个转换成另一个所需的最少编辑操作次数。

许可的编辑操作包括将一个字符替换成另一个字符，插入一个字符，删除一个字符。

编辑距离的算法是首先由俄国科学家Levenshtein提出的，故又叫Levenshtein Distance。

2.用途

模糊查询

3.实现过程

a.首先是有两个字符串,这里写一个简单的 abc和abe

b.将字符串想象成下面的结构。

A处 是一个标记，为了方便讲解，不是这个表的内容。

 

  abc a b c
abe 0 1 2 3
a 1 A处    
b 2      
e 3      

c.来计算A处 出得值

它的值取决于：左边的1、上边的1、左上角的0.

按照Levenshtein distance的意思：

上面的值和左面的值都要求加1，这样得到1+1=2。

A处 由于是两个a相同，左上角的值加0.这样得到0+0=0。

这是后有三个值，左边的计算后为2，上边的计算后为2，左上角的计算为0，所以A处 取他们里面最小的0.

d.于是表成为下面的样子

  abc a b c
abe 0 1 2 3
a 1 0    
b 2 B处    
e 3      

在B处 会同样得到三个值，左边计算后为3，上边计算后为1，在B处 由于对应的字符为a、b，不相等，所以左上角应该在当前值的基础上加1，这样得到1+1=2，在（3,1,2）中选出最小的为B处的值。

e.于是表就更新了

 

  abc a b c
abe 0 1 2 3
a 1 0    
b 2 1    
e 3 C处    

C处 计算后：上面的值为2，左边的值为4，左上角的：a和e不相同，所以加1，即2+1，左上角的为3。

在（2,4,3）中取最小的为C处 的值。

f.于是依次推得到

    a b c
  0 1 2 3
a 1 A处 0 D处 1 G处 2
b 2 B处 1 E处 0 H处 1
e 3 C处 2 F处 1 I处 1

 

I处: 表示abc 和abe 有1个需要编辑的操作。这个是需要计算出来的。

同时，也获得一些额外的信息。

A处: 表示a      和a      需要有0个操作。字符串一样

B处: 表示ab    和a      需要有1个操作。

C处: 表示abe  和a      需要有2个操作。

D处: 表示a      和ab    需要有1个操作。

E处: 表示ab    和ab    需要有0个操作。字符串一样

F处: 表示abe  和ab    需要有1个操作。

G处: 表示a      和abc   需要有2个操作。

H处: 表示ab    和abc    需要有1个操作。

I处: 表示abe   和abc    需要有1个操作。

g.计算相似度

先取两个字符串长度的最大值maxLen，用1-（需要操作数除maxLen），得到相似度。

例如abc 和abe 一个操作，长度为3，所以相似度为1-1/3=0.666。

4.代码实现

直接能运行， 复制过去就行。

 1 /** 
 2  * @className:MyLevenshtein.java 
 3  * @classDescription:Levenshtein Distance 算法实现 
 4  * 可以使用的地方：DNA分析 　　拼字检查 　　语音辨识 　　抄袭侦测 
 5  * @author:donghai.wan 
 6  * @createTime:2012-1-12 
 7  */  
 8 public class MyLevenshtein {  
 9   
10     public static void main(String[] args) {  
11         //要比较的两个字符串  
12         String str1 = "今天星期四";  
13         String str2 = "今天是星期五";  
14         levenshtein(str1,str2);  
15     }  
16   
17     /** 
18      * 　　DNA分析 　　拼字检查 　　语音辨识 　　抄袭侦测 
19      *  
20      * @createTime 2012-1-12 
21      */  
22     public static void levenshtein(String str1,String str2) {  
23         //计算两个字符串的长度。  
24         int len1 = str1.length();  
25         int len2 = str2.length();  
26         //建立上面说的数组，比字符长度大一个空间  
27         int[][] dif = new int[len1 + 1][len2 + 1];  
28         //赋初值，步骤B。  
29         for (int a = 0; a <= len1; a++) {  
30             dif[a][0] = a;  
31         }  
32         for (int a = 0; a <= len2; a++) {  
33             dif[0][a] = a;  
34         }  
35         //计算两个字符是否一样，计算左上的值  
36         int temp;  
37         for (int i = 1; i <= len1; i++) {  
38             for (int j = 1; j <= len2; j++) {  
39                 if (str1.charAt(i - 1) == str2.charAt(j - 1)) {  
40                     temp = 0;  
41                 } else {  
42                     temp = 1;  
43                 }  
44                 //取三个值中最小的  
45                 dif[i][j] = min(dif[i - 1][j - 1] + temp, dif[i][j - 1] + 1,  
46                         dif[i - 1][j] + 1);  
47             }  
48         }  
49         System.out.println("字符串\""+str1+"\"与\""+str2+"\"的比较");  
50         //取数组右下角的值，同样不同位置代表不同字符串的比较  
51         System.out.println("差异步骤："+dif[len1][len2]);  
52         //计算相似度  
53         float similarity =1 - (float) dif[len1][len2] / Math.max(str1.length(), str2.length());  
54         System.out.println("相似度："+similarity);  
55     }  
56   
57     //得到最小值  
58     private static int min(int... is) {  
59         int min = Integer.MAX_VALUE;  
60         for (int i : is) {  
61             if (min > i) {  
62                 min = i;  
63             }  
64         }  
65         return min;  
66     }  
67   
68 }

 

5.猜测原理

为什么这样就能算出相似度了？

首先在连续相等的字符就可以考虑到

红色是取值的顺序。

1.今天周一    天周一

 

    天 周 一
  0 1 2 3
今 1 1 2 3
天 2 1 2 3
周 3 2 1 3
一 4 3 3 1

实现是去掉“今”，一步完成。

2.听说马上就要放假了 你听说要放假了

 

    你 听 说 要 放 假 了
  0 1 2 3 4 5 6 7
听 1 1 1 2 3 4 5 6
说 2 2 2 1 2 3 4 5
马 3 3 3 2 2 3 4 5
上 4 4 4 3 3 3 4 5
就 5 5 5 4 4 4 4 5
要 6 6 6 5 4 5 5 5
放 7 7 7 6 5 4 5 6
假 8 8 8 7 6 5 4 6
了 9 9 9 8 7 6 6 4

这两个字符串是：

去掉“你”，加上“马上就”，总共四步操作。

3.还是没弄懂

6.结束

算法优化空间很大。

最后也没弄懂为什么这样算能算出相似度。

posted @ 2016-05-30 15:44  shirayner  阅读(1657)  评论(0)  编辑  收藏  举报