Machine Learning - 随笔分类 - 石头木

最大边缘相关(MMR)用于推荐的多样性

摘要：在推荐中，多样性并不是目的，而是一种提高用户粘度或是惊喜度的手段。记得在17年的时候在公司做的一个新闻文本摘要项目(那时候没有用到深度学习中的生成式方法是因为：一是没有gpu机器；二是样本不够。而且深度学习的这种生成式方法有时候真的不是太准，即生成的摘要有时候是不通顺的或是不知道説啥，这个还需要后续阅读全文

posted @ 2020-04-18 16:50 石头木阅读(1718) 评论(0) 推荐(0) 编辑

svdpp分解推荐，java实现

摘要：融合了偏置LFM以及用户的历史评分行为，结合了邻域和LFM。理论及python实现见https://www.cnblogs.com/little-horse/p/12499671.html。以下java简单实现，完整程序https://github.com/jiangnanboy/RecomSys 阅读全文

posted @ 2020-04-02 21:57 石头木阅读(449) 评论(0) 推荐(0) 编辑

biasLFM分解推荐，java实现

摘要：BiasLFM(bias latent factor model)带偏置项的隐语义推荐模型，加入三个偏置项（所有评分的平均，用户偏置项表示用户的评分习惯和物品没关系， * 物品偏置项表示物品接受的评分中和用户没关系的因素）矩阵分解,训练得到U,I矩阵,以及用户偏置项和物品偏置项 * 对user-it 阅读全文

posted @ 2020-04-02 21:52 石头木阅读(285) 评论(0) 推荐(0) 编辑

SVD++分解

摘要：在现实情况下，用户的显式反馈严重不足，但一般拥有大量隐式反馈信息。所以在偏置svd基础上增加了用户的隐式反馈信息，该方法融合了用户的显式和隐式信息。 1.预测评分公式为其中，有全局平均分，user的偏置信息，item的偏置信息，Ni为该用户评价过的所有item集合，从隐式反馈出发，作为用户偏好的补阅读全文

posted @ 2020-03-15 20:09 石头木阅读(699) 评论(0) 推荐(0) 编辑

BiasLFM分解

摘要：LFM预测是通过隐类将user和item联系起来。但在实际情况下，不同用户的评分标准不同，有的偏高，有的偏低。有的系统有些固有属性和user属性以及item属性都无关。因此才有了带偏置信息的biasLFM。 1.预测评分公式为该式有四项：全局平均分、user的偏置信息、item的偏置信息以及use 阅读全文

posted @ 2020-03-15 15:55 石头木阅读(385) 评论(0) 推荐(0) 编辑

WALS分解

摘要：1.ALS用于显示反馈，即有明确评分的数据。对于隐式反馈，可利用加权ALS，对于有确定偏好的item赋于较大权重，对于没有反馈的item，赋于较小权重。其中，P矩阵维度：N*K；Q矩阵维度：M*K。前者为User在K维潜因子空间的表示；后者为Item在K维潜因子空间的表示。 2.预测评分，或者説近阅读全文

posted @ 2020-03-15 10:49 石头木阅读(616) 评论(0) 推荐(0) 编辑

ALS分解

摘要：1.交替交替最小二乘应该来说是一种优化策略，用来对矩阵进行近似分解其中，P矩阵维度：N*K；Q矩阵维度：M*K。前者为User在K维潜因子空间的表示；后者为Item在K维潜因子空间的表示。 2.预测评分，或者説近似评分为 3.损失函数为平方误差+L2正则项，其中是真实值。 4.交替迭代对P，Q随阅读全文

posted @ 2020-03-14 23:26 石头木阅读(374) 评论(1) 推荐(0) 编辑

NMF分解

摘要：1.非负矩阵分解其中，P矩阵维度：N*K；Q矩阵维度：M*K。前者为User在K维潜因子空间的表示；后者为Item在K维潜因子空间的表示。其中： 2.预测评分，或者説近似评分为 3.损失函数为平方误差，其中是真实值。 a.加入L2正则项 b.加入L1和L2正则项 4.针对加入L1和L2的loss 阅读全文

posted @ 2020-03-14 22:36 石头木阅读(576) 评论(0) 推荐(0) 编辑

LFM矩阵分解

摘要：对矩阵R的近似求解： 1. 其中，P矩阵维度：N*K；Q矩阵维度：M*K。前者为User在K维潜因子空间的表示；后者为Item在K维潜因子空间的表示。 2.预测评分，或者説近似评分为： 3. 损失函数为平方误差+L2正则项：，其中为真实评分。 4.用梯度下降求解：其中是学习率，是正则化参数。 5 阅读全文

posted @ 2020-03-13 22:42 石头木阅读(629) 评论(0) 推荐(0) 编辑

常用的激活函数

摘要：1.阶跃函数，值域{0,1} 2.sigmoid函数，值域(0,1) 3.relu函数，值域[0，+∞） 4.leaky relu函数，值域R 5.tanh函数，值域(-1,1) 6.softmax函数，值域[0,1] 7.画图程序阅读全文

posted @ 2019-07-24 23:09 石头木阅读(438) 评论(0) 推荐(0) 编辑

spark实现smote近邻采样

摘要：一.smote相关理论 (1). SMOTE是一种对普通过采样(oversampling)的一个改良。普通的过采样会使得训练集中有很多重复的样本。 SMOTE的全称是Synthetic Minority Over-Sampling Technique，译为“人工少数类过采样法”。 SMOTE没有直接阅读全文

posted @ 2019-07-24 22:02 石头木阅读(1373) 评论(0) 推荐(0) 编辑

lightgbm用于排序

摘要：一. LTR(learning to rank)经常用于搜索排序中，开源工具中比较有名的是微软的ranklib，但是这个好像是单机版的，也有好长时间没有更新了。所以打算想利用lightgbm进行排序，但网上关于lightgbm用于排序的代码很少，关于回归和分类的倒是一堆。这里我将贴上python版的阅读全文

posted @ 2019-07-24 11:52 石头木阅读(8004) 评论(8) 推荐(2) 编辑

关于Additive Ensembles of Regression Trees模型的快速打分预测

摘要：一.论文《QuickScorer:a Fast Algorithm to Rank Documents with Additive Ensembles of Regression Trees》是为了解决LTR模型的预测问题，如果LTR中的LambdaMart在生成模型时产生的树数和叶结点过多，在对样阅读全文

posted @ 2019-07-24 10:47 石头木阅读(740) 评论(0) 推荐(0) 编辑

利用gephi作人物网络图

摘要：利用gephi显示经word2vec计算的结果阅读全文

posted @ 2017-08-30 15:30 石头木阅读(1970) 评论(0) 推荐(0) 编辑

sklearn pca降维

摘要：sklearn和numpy.linalg.eig使用pca主成分分析降维阅读全文

posted @ 2017-08-16 23:15 石头木阅读(3470) 评论(0) 推荐(0) 编辑

学习sklearn聚类使用

摘要：sklearn学习阅读全文

posted @ 2017-08-15 19:49 石头木阅读(5184) 评论(0) 推荐(0) 编辑

kmeans与kmeans++的python实现

摘要：python实现kmeans与kmeans++方法阅读全文