摘要：
背景 由于用户的兴趣是实时变化的，现代推荐、广告系统采用了流式更新的方式来捕捉用户实时兴趣的变化。实时训练的方式面临的一个难题就是正样本的回传是有延迟的，一个实时发送的负样本其实是无法确认是否是真的负样本的。也就是说实时观测到的数据流是一个有偏数据流，并不是真实的数据。如果模型在这个有偏分布上学习， 阅读全文
摘要：
背景 在推荐尤其是广告中，一个用户的正反馈不是马上就发生的，可能过了一段时间后才发生。如商品的购买、游戏中的付费行为，常常是发生在点击广告后的几天之后。这样导致了模型训练时不知道一个样本是不是真的负样本。其中一个朴素的解决方法时等待一个固定的时间窗口，超过这个时间窗口还没回传转化的样本都看作负样本， 阅读全文
摘要：
背景 position-bias 简单理解就是同个商品/广告展示在不同的位置上有不同的ctr、cvr，如： 1. 小说榜单，越靠前的位置的点击率越高 2. 今日头条中有不同广告位，越显眼的广告位点击率约高 这样就回形成“马太效应”，排在前面的物品越来越容易排在前面，排在后面的物品越来越容易排在后面。 阅读全文
摘要：
背景 这是Facebook应用在社交搜索召回上的一篇论文，与传统搜索场景(google,bing)不同的是，fb这边通常需要更加考虑用户的一些画像，比如位置，社交关系等。举个例子：fb上有很多John Smith，但用户使用查询“John Smith”搜索的实际目标人很可能是他们的朋友或熟人。 或者 阅读全文
摘要：
背景 在推荐系统存在两个难题： 1. 需要同时优化点击、观看时长、点赞、打分、评论等多个目标，如何同时建模多个目标 2. 存在position bias，即同个视频放在不通位置上点击率等会不同，如何建模position bias youtube这篇论文采用了MMOE来建模多目标，并用一个shallo 阅读全文
摘要：
模型结构 模型整体的框架图如图三所示，主要包含两个网络： 第一部分是主干网络，用来得到特征和任务的嵌入式表征； 第二部分是元学习网络，主要包含三种结构： 1）元学习单元：显式建模场景信息 2）Attention元网络：捕捉不同场景下多个任务的动态关联： 3）tower元网络：增强特定场景的表征能力。 阅读全文
摘要：
linux安装protoc： https://www.cnblogs.com/niuben/p/14212878.html 阅读全文
摘要：
背景 多任务学习（通过一个模型学习多个目标）目前在推荐系统中已经得到了广泛的应用，期望通过不通任务之间的信息共享提升每个任务的学习效率。现实情况下，通常由于不同的任务之间存在比较复杂的关系，不通任务之间相互干扰，导致多任务学习中经常会出现负迁移(negative transfer)的现象。此外多任务 阅读全文
摘要：
背景 我们知道，对于冷启动的用户，由于用户行为数据比较少，预估难度较大。常用的解决方案如采用泛化特征代替id类特征、用泛化特征训练一个辅助tower帮助主tower学校、元学习等方案。这些方法把冷启动问题聚焦在用户行为数据的缺失上。POSO论文提出了冷启动中存在的另外两个问题： 1. 冷启动数据量少 阅读全文
摘要：
背景 观看时长（wathc time）是视频推荐中的重要指标之一，提升整体观看时长是视频推荐系统的主要目标。观看时长主要受两个因素的影响：1）用户是否对视频感兴趣；2）视频本身的时长（duration）。 作者分析发现，一方面，100s以下的视频，其观看时长和本身时长有着正相关关系，将视频时长作为输 阅读全文