推荐算法—CB和CF
一、基于内容的推荐(CB,Content-based Recommendations)
基于内容的推荐CB应该算是最早被使用的推荐方法,它根据用户过去喜欢的产品(本文统称为 item),为用户推荐和他过去喜欢的产品相似的产品。如,一个推荐饭店的系统可以依据某个用户之前喜欢很多的烤肉店而为他推荐烤肉店。 CB最早主要应用在信息检索系统当中,所以很多信息检索及信息过滤里的方法都能用于CB中。
CB的过程一般包括以下三步:
(1)Item Representation:为每个item抽取出一些特征(也就是item的content了)来表示此item;
(2)Profile Learning:利用一个用户过去喜欢(及不喜欢)的item的特征数据,来学习出此用户的喜好特征(profile);
(3)Recommendation Generation:通过比较上一步得到的用户profile与候选item的特征,为此用户推荐一组相关性最大的item。
二、基于协同过滤推荐(CF,Collaborative Filtering Recommendations )
常见的协同过滤推荐可以分为三类:(基于用户、基于物品、基于模型)
1.基于用户的协同过滤(User CF,User based Collaborative Filtering)
基于用户的协同过滤推荐算法先使用统计技术寻找与目标用户有相同喜好的“邻居”,然后根据目标用户的邻居的行为,向目标用户进行推荐。基本原理就是利用用户访问行为的相似性来互相推荐用户可能感兴趣的资源。在一般应用中采用计算“k近邻”,然后基于这K个邻居的历史偏好信息,为当前用户进行推荐。
一般UserCF和ItemCF都是用上面的描述,其实真正实现的时候上面的描述只是第一步。真正实现的时候一般还是将问题分解为三步:
(1)计算用户之间的相似度;
(2)根据用户的相似度和用户的历史行为填补User-Item评分矩阵;
(3)根据评分矩阵进行推荐(选高分)。
具体的例子可以看ItemCF,UserCF只是换了表示的意义,比如下面公式(1)中N(i)和N(j)就变成了与用户i,j交互过的物品数量。
相似度计算使用Jaccard公式或pearson相似度以及余弦相似度、欧式距离。
2.基于物品的协同过滤(Item CF,Item based Collaborative Filtering)
算法核心思想:给用户推荐那些和他们之前喜欢的物品相似的物品。
这里看起来是不是和基于内容的推荐的核心思想很相像?(ItemCF和CB的区别?)
确实很像,但是也是有很大差别的。比如,用户A之前买过《数据挖掘导论》,该算法会根据此行为给你推荐《机器学习》。但是ItemCF算法并不利用物品的内容属性计算物品之间的相似度,它主要通过分析用户的行为记录计算物品之间的相似度,然后根据相似度和用户打分结合,算出用户可能会对一些未接触过的物品给出的打分,进而进行推荐。而CB则是利用物品的内容属性计算物品之间的相似度,然后根据训练得到的用户的profile,找最相似的进行推荐。
基于物品的协同过滤算法主要分为三步:
(1)计算物品之间的相似度;
(2)根据物品的相似度和用户的历史行为填补User-Item评分矩阵;
(3)根据评分矩阵进行推荐(选高分)。
具体如下:
(1)
首先使用公式(1)计算物品之间的相似度。其中,|N(i)|是喜欢物品i的用户数,|N(j)|是喜欢物品j的用户数,|N(i)∩N(j)|是同时喜欢物品i和物品j的用户数。当物品ab完全一致(是同一个物品)时,那么N(a)和N(b)应该完全相等,那么wij就为1。即w越接近1,ab越相似。w为0时,说明从用户物品交互角度来看,ab不相似。
如图表示 用户A对abd三个物品感兴趣,以此类推。
那么物品a和b的相似度即为:
之后使用公式(2)预测用户对与他没有交互的物品的评分:
(2)
其中puj表示用户u对物品j的兴趣(可能的打分),rui则表示用户u对物品i已有的打分(explicit feedback中为打分,比如0-5分,implicit feedback中为有交互1,无交互0)。i可取自全集,也可挑选和j比较相似的几个物品(设立相似度阈值进行判断)。
下面是一个书中的例子,帮助理解ItemCF过程:
不止ItemCF,其实UserCF,CB的第二步,计算带推荐物品的分数(填补User-Item矩阵)的方法都是如图的方法。
3.基于模型的协同过滤
ItemCF和UserCF可以被归为基于记忆的模型,即依赖简单的相似性度量(比如余弦相似性、皮尔森相关系数等)来把相似的用户或物品匹配起来。如果有一个矩阵,那么其中每一行是一个用户,每一列代表一个物品,那么基于记忆的方法就是对这一矩阵的行或列使用相似性度量来获得一个相似度值,进而推荐。
而与基于记忆的CF相对的,是基于模型的协同过滤。
基于模型的协同过滤作为目前最主流的协同过滤类型,其相关算法可以写一本书了,当然我们这里主要是对其思想做有一个归类概括。我们的问题是这样的m个物品,m个用户的数据,只有部分用户和部分数据之间是有评分数据的,其它部分评分是空白,此时我们要用已有的部分稀疏数据来预测那些空白的物品和数据之间的评分关系,找到最高评分的物品推荐给用户。
对于这个问题,用机器学习的思想来建模解决,主流的方法可以分为:用关联算法,聚类算法,分类算法,回归算法,矩阵分解,神经网络,图模型以及隐语义模型等来解决,我们就不具体展开了。
基于模型的协同过滤和基于记忆的协同过滤思想是一致的,都是想办法对缺失的UI(user-item)矩阵进行填补,进而进行推荐。
基于记忆的CF利用简单的相似性度量,以及线性加权组合进行填补。而基于模型的CF则利用各种更复杂的模型或方法,对UI矩阵进行填补,比如矩阵分解、隐向量的思想(隐语义模型)、SVD、SVD++等。
我们平常时常接触的隐语义模型、矩阵分解,都是基于模型的协同过滤算法。