带掩码的自编码器(MAE)最新的相关论文推荐

 

1、Heterogeneous Graph Masked Autoencoders

Yijun Tian, Kaiwen Dong, Chunhui Zhang, Chuxu Zhang, Nitesh V. Chawla

https://arxiv.org/pdf/2208.09957

生成式自监督学习(SSL),特别是带掩码自编码器已经成为最令人兴奋的学习范式之一,并且在图学习方面显示出巨大的潜力。但是现实世界的图总是异构的,这带来了三个关键的挑战,现有的方法忽略了:

  1. 如何捕获复杂的图结构?
  2. 如何整合各种节点属性?
  3. 如何编码不同的节点位置?

这篇论文研究了异构图上的SSL的问题,并提出了一种新的异构图掩码自编码器模型HGMAE来解决这些问题。HGMAE通过两种创新的掩码技术和三种独特的训练策略捕捉全面的图信息。论文通过大量的实验证明,在跨多个数据集的多个任务上,HGMAE优于对比和最先进的基线。

2、Federated Self-Supervised Contrastive Learning and Masked Autoencoder for Dermatological Disease Diagnosis

Yawen Wu, Dewen Zeng, Zhepeng Wang, Yi Sheng, Lei Yang, Alaina J. James, Yiyu Shi, Jingtong Hu

完整文章:

https://avoid.overfit.cn/post/097b5f48893f462a847fa23dacb91bcc

posted @ 2022-10-08 10:59  deephub  阅读(52)  评论(0编辑  收藏  举报