腾讯多任务学习ple模型

背景

多任务学习(通过一个模型学习多个目标)目前在推荐系统中已经得到了广泛的应用,期望通过不通任务之间的信息共享提升每个任务的学习效率。现实情况下,通常由于不同的任务之间存在比较复杂的关系,不通任务之间相互干扰,导致多任务学习中经常会出现负迁移(negative transfer)的现象。此外多任务学习通常还存在跷跷板现象(seesaw phenomenon),即部分任务的学习效率提高了,而其他任务的学习效率却降低了,此消彼长。论文提出了Progressive Layered Extraction模型,来解决多任务学习的跷跷板现象,为多任务学习提供了新的思路。

腾讯视频推荐架构

 

 

 

 单层模型结构CGC

 

 

多层模型结构PLE

 

 

参考资料

https://zhuanlan.zhihu.com/p/473828307

posted @ 2023-03-18 20:21  xd_xumaomao  阅读(340)  评论(0编辑  收藏  举报