09 2022 档案

小样本学习总结3
摘要：本周看了1篇小样本学习文章。 #META-LEARNING WITH FEWER TASKS THROUGH TASK INTERPOLATION 出自ICLR2022。核心思想是数据增强，通过插值来构建一些额外的元学习中的任务，增强元学习的效果。作者在文中给出了细致的理论分析，同时也有大量实验验证 阅读全文
posted @ 2022-09-30 16:42 South1999 阅读(153) 评论(0) 推荐(0)
MLP4Rec: A Pure MLP Architecture for Sequential Recommendations阅读笔记
摘要：#动机 本文是2022年IJCAI上的一篇论文。自注意力模型在序列推荐上取得了卓越的效果，但是它们依赖位置编码保存顺序关系，然而位置编码可能会破坏原始embedding所包含的信息。现有的工作大多都假设这种顺序依赖关系仅存在于物品的embedding中，而忽略了物品特征中的这种依赖关系。本文提出了一 阅读全文
posted @ 2022-09-28 15:50 South1999 阅读(496) 评论(0) 推荐(0)
Generative Adversarial Framework for Cold-Start Item Recommendation阅读笔记
摘要：#动机 本文是2022年SIGIR上的一篇论文。基于embedding的模型通过用户与物品交互历史学习到用户与物品的表示，但是这种方法对于没有出现在训练数据中的冷物品表现很差，因为冷物品没有得到训练，它的表示是随机的。目前最常见的方式是通过冷物品的属性生成其对应的表示，但是这种方法生成的冷物品嵌入与 阅读全文
posted @ 2022-09-27 13:59 South1999 阅读(611) 评论(0) 推荐(0)
MAMO模型复现
摘要：原文为MAMO: Memory-Augmented Meta-Optimization for Cold-start Recommendation。 本文重点是用几个记忆网络保存用户、物品及任务的一些信息，在遇到新任务时，用之前任务学到的一些先验知识进行初始化，之后经过少量迭代就可以收敛到一个不错的 阅读全文
posted @ 2022-09-26 20:30 South1999 阅读(234) 评论(0) 推荐(0)
小样本学习总结2
摘要：本周看了2篇小样本学习的文章。 #Label Hallucination for Few-Shot Classification 出自AAAI2022，本文讲的是cv中的小样本分类，核心思想就是利用大的数据集进行数据增强(数据集分别为数量大的带标签的基数据集和数量小的带标签的新数据集)。 具体的方法 阅读全文
posted @ 2022-09-23 14:02 South1999 阅读(200) 评论(0) 推荐(0)
PNMTA: A Pretrained Network Modulation and Task Adaptation Approach for User Cold-Start Recommendation阅读笔记
摘要：#动机 本文是2022年WWW上的一篇论文。最近很多工作将用户冷启动问题视为一个小镜头问题，并通过MAML方法寻求解决方案。但是MAML通常是为所有冷启动用户学习到一个初始化表示，而用户的偏好分布是不同的，这就导致该初始化表示很难适用于每个用户。针对以上问题，本文提出了PNMTA，该方法主要是加入了 阅读全文
posted @ 2022-09-21 19:33 South1999 阅读(311) 评论(0) 推荐(0)
DropoutNet: Addressing Cold Start in Recommender Systems阅读笔记
摘要：#动机 本文是2017年nips上的一篇论文。在当时对于冷启动问题，大部分工作是针对cold item的，或是将偏好和内容都结合在目标函数中使其非常复杂。本文作者提出了DropoutNet，这个方法利用深度学习中dropout的思想，且只有一个目标函数，简单有效。 #方法 模型的框架见下图。输入分为 阅读全文
posted @ 2022-09-20 15:57 South1999 阅读(402) 评论(0) 推荐(0)
MetaEmb模型复现
摘要：2022.12.4更新 第一次复现时对文章有一些误解，另外作者源码中在训练时没有shuffle数据，这次更新修改了以上问题。 原论文为Warm Up Cold-start Advertisements: Improving CTR Predictions via Learning to Learn 阅读全文
posted @ 2022-09-19 15:04 South1999 阅读(427) 评论(0) 推荐(0)
小样本学习总结1
摘要：这周粗读了两篇关于小样本学习的论文，分别是NLP和CV领域的。 #Meta-LMTC: Meta-Learning for Large-Scale Multi-Label Text Classification 出自EMNLP2021。本篇文章是大规模多标签文本分类，用到的是基于优化的元学习方法MA 阅读全文
posted @ 2022-09-16 16:20 South1999 阅读(206) 评论(0) 推荐(0)
Warm Up Cold-start Advertisements: Improving CTR Predictions via Learning to Learn ID Embeddings阅读笔记
摘要：#动机 本文是2019年SIGIR上的一篇论文。在计算广告中CTR预估是最核心的问题之一，最近基于embedding的技术(用一个低维向量表示id)改善了CTR预估的准确性，但是如果遇到新的广告，这种方法的效果就会很差。针对以上问题，作者提出了MetaEmbedding模型，它通过元学习，为新广告学 阅读全文
posted @ 2022-09-14 19:54 South1999 阅读(423) 评论(0) 推荐(0)
Personalized Adaptive Meta Learning for Cold-start User Preference Prediction阅读笔记
摘要：#动机 本文是2021年AAAI上的一篇论文。MAML是解决推荐系统冷启动问题的常用方法，由于在现实生活中用户的分布不是均匀的(不同的用户有不同的配置文件，我们定义主要用户为具有与其他大量用户相似信息的用户，其余用户为次要用户)，MAML方法倾向于适应主要用户而忽略次要用户。为了解决上述这一过拟合问 阅读全文
posted @ 2022-09-13 21:32 South1999 阅读(364) 评论(0) 推荐(0)
MeLU模型复现
摘要：MeLU算是推荐系统冷启动中非常经典的一个模型，在近两年很多冷启动相关的论文都拿它做baseline。以下总结一些个人觉得值得关注的地方。代码参考自MELU_pytorch class Linear(nn.Linear): def __init__(self, in_features, out_fe 阅读全文
posted @ 2022-09-12 23:49 South1999 阅读(662) 评论(0) 推荐(0)
LeetCode 6206. 最长递增子序列 II
摘要：本题思路是遍历一遍当前数组的元素，假设当前元素为i，f[i]是以元素i结尾的最长的递增子序列长度，那么f[i] = 1 + max(f[i-k], f[i-k+1],...,f[i-1])。核心问题就是如何在遍历每个元素时求出max(f[i-k], f[i-k+1],...,f[i-1])，如果使用 阅读全文
posted @ 2022-09-12 11:23 South1999 阅读(67) 评论(0) 推荐(0)