推荐系统

此系列笔记来源于

Coursera上吴恩达老师的机器学习课程

---

推荐系统

基于内容的推荐算法

上图是一个 四位用户 对 五部电影的打分情况 加上 各电影的特征值

对于每个电影的特征值 $x^{(i)}$我们还要加上特征的截距项 $x^{(i)}_0$

如 $x^{(1)}=\begin{bmatrix} 1 \\ 0.9 \\0 \end{bmatrix}$

接下来要用线性回归模型来构建一个推荐系统算法，我们对每个用户都训练一个线性回归模型。

其中 $i:r(i,j)$ 表示我们只计算那些用户 j 评过分的电影。在一般的线性回归模型中，误差项和正则项应该都是乘以 $\frac{1}{2m}$，在这里我们将 m 去掉，因为这并不影响我们最小化代价函数。并且我们不对方差项$\theta_0$进行正则化处理。

如果用梯度下降法求解，更新公式为：（偏导数部分已计算）

协同过滤

之前我们是根据可用的特征，训练出了每位用户的参数，但相反地，如果我们拥有用户的参数，我们也可以来学习得出电影的特征。

在这里，协同过滤算法便指的是 我们可以根据不同用户的评分，及参数，来学习电影的特征值，进而我们又可以用这些特征值去更好地预测用户的评分，就这样来不断的优化算法。

然而借由 $x$ 预测 $\theta$，再借由 $\theta$ 预测 $x$…… 这一过程我们可以高效地用一个式子来进行：

步骤：

1、初始化 $x^{(1)},\cdots,x^{(n_m)},\theta^{(1)},\cdots,\theta^{(n_m)}$为一些随机的小值

2、使用梯度下降算法最小化代价函数

3、训练完算法后，我们便可以预测$(\theta^{(j)})^Tx^{(i)}$为用户 j 给电影 i 的评分

向量化

我们先将 所有用户对所有电影的评分 放在一个矩阵中

记作 $Y,\;Y(i,j)$表示第j名用户对第i部电影的评分

例：

我们的预测值：

我们可以将电影的特征和用户的参数转化为一个大矩阵

这被称为低秩矩阵分解，接着计算这个预测评分的矩阵 $X\Theta^T$

另外在这里将不再需要 $x_0$ 和 $\theta_0$

寻找相关内容

对于电影 i 有特征 $x^{(i)}$，电影 j 有特征 $x^{(j)}$

当电影 i 和 电影 j 相关时，只需要 $||x^{(i)}-x^{(j)}||$ 较小即可

找到与电影 i 最相关的五部电影，就是找到$||x^{(i)}-x^{(j)}||$ 最小的五部电影 j

均值归一化

还是刚才的例子，此时我们增加一名新的用户 Eve，她从未对电影评过分

如果我们按照之前的步骤，那么我们最后计算出来 Eve的参数矩阵一定是零矩阵，那我们以什么为依据为 Eve 推荐电影呢？

这里我们就要用到均值归一化。

我们先对已知的其他用户对各个电影的评分求一个平均值，再将这些评分减去各个电影对应的均值

$\mu$ 就是均值矩阵

接着我们对这个新得到的 Y 矩阵来训练算法，步骤和之前一样。

如果我们要用这个新训练出来的算法预测评分，我们只需要预测的评分加上均值即可，即 $(\theta^{(j)})^Tx^{(i)}+\mu_i$，对于 Eve，新模型便会认为她给每部电影的评分都是平均分