【五期伍捷威】CCF-A(PMLR'21)Clustered Sampling: Low-Variance and Improved Representativity for Clients Selection in Federated Learning

Fraboni, Yann, et al. "Clustered sampling: Low-variance and improved representativity for clients selection in federated learning." International Conference on Machine Learning. PMLR, 2021.CCF-A(PMLR'21)

  本论文针对联邦学习之中的客户选择部分提出了优化算法。以聚类抽样的方法在不增加原本的各种算法的通信量的同时提高客户的代表性减小所选客户的方差，以达到模型的性能的目的。
  本文提出了两种基于聚类抽样的算法，一种是基于样本量大小的聚类，以样本量的大小来进行聚类，然后在每个分布之中抽取客户。另一种是基于相似性的聚类，所谓相似性也就是说客户模型与全局模型梯度的差异性来进行聚类。基于相似性的算法不需要共享客户的梯度，只需要共享“代表性梯度”，这在实现和标准FL相同的通信代价的同时，保证了客户的隐私。
  本文缺点在于如果客户端对自身数据进行伪装或者谎报将会影响到客户选择的准确性。

2022年12月16日