PCI_Making Recommendations

协作性过滤

基于用户的协作性过滤

　　简单理解从众多用户中先搜索出与目标用户‘品味’相似的部分人，然后考察这部分人的偏爱，根据偏爱结果为用户做推荐。这个过程也成为基于用户的协作性过滤(user_based collaborative filtering）。

以推荐电影为例

数据集

　　偏好数据集，嵌套字典，格式为：{用户：{电影名称：评分}}。

critics={'Lisa Rose': {'Lady in the Water': 2.5, 'Snakes on a Plane': 3.5,
 'Just My Luck': 3.0, 'Superman Returns': 3.5, 'You, Me and Dupree': 2.5, 
 'The Night Listener': 3.0},
'Gene Seymour': {'Lady in the Water': 3.0, 'Snakes on a Plane': 3.5, 
 'Just My Luck': 1.5, 'Superman Returns': 5.0, 'The Night Listener': 3.0, 
 'You, Me and Dupree': 3.5}, 
'Michael Phillips': {'Lady in the Water': 2.5, 'Snakes on a Plane': 3.0,
 'Superman Returns': 3.5, 'The Night Listener': 4.0},
'Claudia Puig': {'Snakes on a Plane': 3.5, 'Just My Luck': 3.0,
 'The Night Listener': 4.5, 'Superman Returns': 4.0, 
 'You, Me and Dupree': 2.5},
'Mick LaSalle': {'Lady in the Water': 3.0, 'Snakes on a Plane': 4.0, 
 'Just My Luck': 2.0, 'Superman Returns': 3.0, 'The Night Listener': 3.0,
 'You, Me and Dupree': 2.0}, 
'Jack Matthews': {'Lady in the Water': 3.0, 'Snakes on a Plane': 4.0,
 'The Night Listener': 3.0, 'Superman Returns': 5.0, 'You, Me and Dupree': 3.5},
'Toby': {'Snakes on a Plane':4.5,'You, Me and Dupree':1.0,'Superman Returns':4.0}}

寻找相近用户

　　从众多用户中先搜索出与目标用户‘品味’相似的人。相似度的计算用欧几里得距离和皮尔逊相关度来计算。

　　皮尔逊相关度公式：

 

from math import sqrt

#欧几里得距离
#将得到的距离1/(1+distance),保持sim_distance值在(0,1),且sim_distance越大，两者越近
def sim_distance(prefs,person1,person2):
    si = {}
    for item in prefs[person1]:
        if item in prefs[person2]:
            si[item] = 1

    if len(si) == 0:
        return 0

    sum_of_squares = sum([pow(prefs[person1][item] - prefs[person2][item],2)
                          for item in prefs[person1] if item in prefs[person2]])

    return 1/(1 + sum_of_squares)

#皮尔逊系数
#对不整齐/规范数据更有效，如本例具有相同品味但某一人评价更严格，在欧几里得距离看来是不相近的，但pearsion会找到最佳拟合线(best_fit line)所以更准确
def sim_pearson(prefs, person1, person2):
    si = {}
    for item in prefs[person1]:
        if item in prefs[person2] :
            si[item]  = 1
            
    # 两者有相似的个数       
    n = len(si)
    
    if n==0 :
        return 1
    
    sum1=sum([prefs[person1][it] for it in si])
    sum2=sum([prefs[person2][it] for it in si])
  
    sum1Sq=sum([pow(prefs[person1][it],2) for it in si])
    sum2Sq=sum([pow(prefs[person2][it],2) for it in si])
  
    pSum=sum([prefs[person1][it]*prefs[person2][it] for it in si])
    
    num=pSum-(sum1*sum2/n)
    
    den=sqrt((sum1Sq-pow(sum1,2)/n)*(sum2Sq-pow(sum2,2)/n))
    
    if den ==0 :
        return 0
    
    r = num / den
    
    return r

 测试：

确定计算相关度方法后，找相关度最高用户：

#为评论者打分
#找到相关度最高的用户，similarity指定相关度方法，n指定返回最相似用户人数
def topMatches(prefs, person, n = 5, similarity = sim_distance):
    scores = [(similarity(prefs, person, other), other)
              for other in prefs if other != person]
    scores.sort()
    scores.reverse()
    return scores[0:n]

测试：

 

推荐物品

　　经过搜索到‘品味’相同的人后，可以选择从最相似用户看过的电影随机选一部，这是可行的，但可能刚好有一部你想看的但最相似的用户没看过。由此需要对推荐物品做处理：1.对所有相似用户做加权，突出更相似用户比重；2.抑制被评论更多的影片对结果的影响。下表可反应该过程：

#推荐
def getRecommendations(prefs, person, similarity = sim_distance):
    totals={}
    simSums={}
    
    for other in prefs:
        if other == person: continue
        
        sim = similarity(prefs, person, other)
        if sim <= 0: continue
            
        #只对没看过的影片进行评分 
        #加权相似用户评价值
        for item in prefs[other]:
            if item not in prefs[person] or prefs[person][item]==0:
                totals.setdefault(item,0)
                totals[item]+=prefs[other][item]*sim
                #print(totals[item])

                simSums.setdefault(item,0)
                simSums[item]+=sim

    for item, total in totals.items():
        pass
    
    #对自己可能想看的电影评分
    rankings=[(total/simSums[item],item) for item, total in totals.items()]

    rankings.sort()
    rankings.reverse()
    return rankings

测试：

至此，一个简易的基于用户的推荐系统完成。但实际中更多可能存在基于物品推荐的情况，以该列说明，给定一个电影推荐相似电影。通过查看那些用户喜欢该电影，再搜索这些用户还喜欢其他电影的程度/评价来做相似度匹配，在该例中通过改变数据集即可实现。

#转换数据集
def transformPrefs(prefs):
    result={}
    for person in prefs:
        for item in prefs[person]:
            result.setdefault(item,{})

            result[item][person] = prefs[person][item]
    return result

转换结果如下：{电影名：{用户：评分}}

测试：

 基于物品的协作型过滤

 　　基于用户的过滤方法在数据量小时较为有效，但当数据量变大时，每次为用户推荐都逐个用户比较显然不合理，基于物品的过滤(item_based collaborative filtering)预先计算好相近物品，当对用户进行推荐时，只要查看预先构造好的列表即可。而且该计算无需不停计算，只要及时的在网络流量不大情况下进行即可。

构造相似物品数据集

 　构造包含相近物品的完整数据集。构造完成后在需要推荐时使用。

#构造包含相近物品的完整数据集
def calculateSimilarItems(prefs,n=10):
    result = {}
    #数据集以物品为中心 {物品：{用户：评分}}
    itemprefs = transformPrefs(prefs)
    c = 0
    for item in itemprefs:
        c+=1
        if c%100==0: print('%d / %d' %(c,len(itemprefs)))
            
        #构造最相似物品集合
        scores=topMatches(itemprefs,item, n=n,similarity=sim_distance)
        result[item]=scores
    return result

测试：

 获得推荐

　　　经过以上，已经事先得到各电影之间的相似度，在推荐时使用。对各相似电影相似度加权，具体如下：

 

#推荐
def getRecommendedItems(prefs,itemMatch,user):
    userRatings = prefs[user]
    scores={}
    totalSim={}

    for (item,rating) in userRatings.items():
        
        #print ('item= %s rating= %s' % (item,rating))
        for (similarity,item2) in itemMatch[item]:
            #print('similarity=%s item2=%s'%(similarity,item2))
            #如果已经评价过则忽略
            if item2 in userRatings: continue

            scores.setdefault(item2,0)
            scores[item2]+=similarity*rating

            totalSim.setdefault(item2,0)
            totalSim[item2]+=similarity 
            
    rankings = [(score/totalSim[item],item) for item,score in scores.items()]
    rankings.sort()
    rankings.reverse()
    return rankings

测试：

　　

----------------------------------------------------------

本系列为较早学习《集体智慧编程》的笔记，多注释在代码出，现重写在Blog，多有理解不当之处，望指教。