【五期邵润东】CCF-B(RAID'20)The Limitations of Federated Learning in Sybil Settings

Fung, Clement, Chris JM Yoon, and Ivan Beschastnikh. "The limitations of federated learning in sybil settings." 23rd International Symposium on Research in Attacks, Intrusions and Defenses (RAID 2020). 2020.——CCF-B

  本文针对联邦学习的隐私保护方面，提出了一个联邦学习易受女巫攻击的问题。现有的防御方案或措施对女巫攻击来说大部分是无效的。作者为了防御其中一种保留在系统中的基于克隆型女巫攻击的策略，提出了一个FoolGold方案，并通过实验证明了方案的有效性，并且发现了一种基于女巫攻击的新型Dos攻击，命名为训练膨胀。
  本文的优点在于提供了一个基于女巫攻击的联邦学习攻击的分类方法，包括将女巫攻击策略与现有的联邦学习攻击目标相匹配，并且贡献了名为训练膨胀的新型Dos攻击。在有针对性的投毒攻击中，这些克隆女巫为特定的投毒目标提供更新。 在对训练过程的期望中，这个目标通过与诚实客户之间相比观察到的相似性更相似的行为来查找女巫。FoolsGold的见解是利用这种特征行为，通过根据客户端贡献的相似性调整客户端学习率来检测和防御投毒的工作。
  本文的缺点是FoolsGold并没有很好地防御许多基于女巫的策略，例如协同攻击。

2022年12月4日