集体智慧编程(一)推荐系统之欧里几德距离

在网上购物,听歌,看电影的网站上,网站都会根据我们的购物记录,听歌记录或着是观看记录给我们推荐一些商品,音乐或者是电影。那这些推荐系统是怎么实现的呢?首先,推荐一个东西,得是购物者所感兴趣的,那么怎么判断购物者对该物品感兴趣呢?那么,就得根据购物者的记录来判断了,假定购物者所购买的物品都是他所感兴趣的。那么跟该购物者的物品相似的物品就是可以推荐的,这种推荐是基于相似条目的。另外,可以相似的人会大都会有相同的爱好,因此可以根据购物者的该买记录找出相似的购物者,并把相似购物者购买的物品推荐出来,这就是基于相似用户的推荐。

  这里简单讲解一种基于用户相似度的简单的经典算法——欧里几得距离算法。

  欧里几得距离指的就是平面上的两个点的距离,即是如下方式计算:

 

 

   扩展到N维的空间上,两个点的距离为:

 

 

 那么,假定两个购物者X,Y,他们都购买了某一件物品,或者都没有购买某一件物品,那么该点的距离为0,如果只有一人购买了,那么距离为1,通过计算他们所买的所有物品的距离,就可以计算处X和Y的距离distance(X,Y)

可以通过以下程序来实现:

#!/usr/bin/python
#data
x_user={'pen':1,'pencil':0,'knife':1,'notebook':1,'book':0}

y_user={'pen':0,'pencil':0,'knife':1,'notebook':1,'book':0}

#calculate distance
from math import sqrt
def distance(person1,person2):
        dis=0
        dis=sum([pow(person1[item]-person2[item],2)
                for item in person1])   
        return sqrt(dis)

print distance(x_user,y_user)

初始距离,即是最小距离为0.对于相通的商品,0表示没有购买,1表示购买了的。通过计算,得知X和Y的距离为1。

这样计算存在一个问题,对于不同数目的商品,计算出来的距离会不在同一个范围内,所以需要对结果进行处理。相似度在0-1的范围内,越大表示相似度越高。那么相似度公式为:

                    

 

 

经过这样的处理,就可以保证相似度和距离成反比,且保持在0-1的范围内。

代码修正如下:

#!/usr/bin/python
#data
x_user={'pen':1,'pencil':0,'knife':1,'notebook':1,'book':0}

y_user={'pen':0,'pencil':0,'knife':1,'notebook':1,'book':0}

#calculate distance
from math import sqrt
def distance(person1,person2):
        dis=0
        dis=sum([pow(person1[item]-person2[item],2)
                for item in person1]) 
        return 1/(1+sqrt(dis))

print distance(x_user,y_user)

注释:

pow()函数---次方
sqrt() ---一个非负实数的平方根函数
dictionary: 字典(即C++标准库的map)
dict = {'ob1':'computer', 'ob2':'mouse', 'ob3':'printer'}
每一个元素是pair,包含key、value两部分。key是Integer或string类型,value 是任意类型。
键是唯一的,字典只认最后一个赋的键值。
[process_item for item in some_list_or_tuple if condition] 
这种语句就可以得到一个list, 

比如想得到每个list中每个item加倍的list 
>>> l = [1, 2, 3, 4] 
>>> l 
[1, 2, 3, 4] 
>>> l2 = [i * 2 for i in l] 
>>> l2 
[2, 4, 6, 8] 

如果在加倍的同时想价格条件判断,符合条件的不在结果中,比如大于2的才加倍,可以这样写 
>>> l3 = [i * 2 for i in l if i > 2] 
>>> l3 
[6, 8] 

sum_of_squares=sum([pow(prefs[person1][item]-prefs[person2][item],2) for item in prefs[person1] if item in prefs[person2]]) 

明白了这个这个表达式就很好理解 
sum()里的这个参数就是一个list,[pow(prefs[person1][item]-prefs[person2][item],2) for item in prefs[person1] if item in prefs[person2]] 
对原list(prefs[person1])的每个item进行求值pow(prefs[person1][item]-prefs[person2][item],2),把这个结果作为新的list的一项,当然还需满足条件if item in prefs[person2]

------------------------------------------

此时,计算出的相似度为0.5

以上只是欧里几德方法的一种简单实现,这种算法精度不是很高,还有很多几个可以提高的方面:

1、对于每个物品的距离,可以更加精确,不只是0或者1,可以是0-5之间的值

2、不同物品可能贡献的权值不一样,例如有些物品很多人都喜欢,有些物品很少有人喜欢,也可以根据物品的受欢迎程度赋予不同的权值来提高精度。

参考:​http://blog.chinaunix.net/uid-21718047-id-3220140.html 

以及《集体智慧编程》

posted @ 2016-02-17 17:48  还是小黑  阅读(637)  评论(0编辑  收藏  举报