随笔分类 - 深度学习
摘要:
大家好,我是对白。 了解图神经网络的朋友对于深层GNN中的过平滑问题一定不陌生,随着网络层数的增加,模型的效果反而急剧下降,令人心痛。回忆一下,常见的解决过平滑的方案有DropEdge、基于残差的方法还有Normalization等,但效果却不尽人意。 今天在KDD2022看到一篇有趣的文章,它没有
阅读全文

摘要:
大家好,我是对白。 前两天刚好刷到KDD2022的一篇文章,是介绍快手在它们短视频上的一项推荐重排新算法,不仅在用户观看时长和视频播放量都有了较大提升外,用户观看视频的标签数也有了显著增长,这说明该算法同时兼具相关性和多样性两点。 为了测试其效果,我顺便下载了一下快手这款app,于是就出现了这篇文章
阅读全文

摘要:
大家好,我是对白。 多任务模型中各个任务难以调参、收敛、效果平平,是一件令人头疼的事情。有没有什么可以令人省心省力的“自适应”方法呢?笔者浏览了一些最近的顶会文章,读了一些相关文章,今天挑选一篇分享给大家~ 说到多任务学习,想必大家都不陌生。在理想的推荐场景中,通过与辅助任务的联合学习,可以提升目标
阅读全文

摘要:
大家好,我是对白。 不得不说,GNN自问世后,在众多领域遭遇魔改,所幸效果是越来越好。想起前几天看到的一篇论文(STAM-GNN)将时序信息加进了GNN中,这在GNN-based推荐模型中并不多见。检索后发现,目前时空GNN多用于交通预测领域。 纵然GNN-based模型效果已然不错,但与基于空间的
阅读全文
