跳转至

文章背景与核心概要

联邦学习(FL)长期以来一直面临参与设备之间数据呈现非独立同分布(non-IID)特性的痛点,这会显著拖慢模型的收敛速度。为了解决这一问题,本文作者推出了 FedImp(Federated Impurity Weighting,联邦杂质加权) 算法。

FedImp 是一种创新的算法,它通过评估每个设备本地数据的信息含量(杂质度)来评估其贡献度。通过对这些贡献进行归一化处理,该算法能够为全局模型更新计算出更有效的聚合权重。在 EMNIST 和 CIFAR-10 数据集上的实验结果表明,FedImp 极大地提升了收敛速度,其性能超越了 FedAvg、FedProx 和 FedAdp 等标准基线方法,尤其在高度不平衡的数据场景下表现尤为出色。


FedImp:基于杂质度加权的联邦学习收敛性增强 (FedImp: Enhancing Federated Learning Convergence with Impurity-Based Weighting)

作者: Hai Anh Tran, Cuong Ta, Truong X. Tran
发布时间: 2026年7月31日
期刊引用: IEEE Transactions on Artificial Intelligence, vol. 7, no. 3, pp. 1652-1665, March 2026
DOI: 10.1109/TAI.2025.3605307


摘要 (Summary)

联邦学习(FL)经常受到参与设备之间非独立同分布(non-IID)数据性质的困扰,这显著减慢了模型的收敛速度。为了解决这个问题,作者引入了 FedImp(联邦杂质加权)

Federated Learning (FL) often struggles with the non-IID (non-Independent and Identically Distributed) nature of data across participating devices, which significantly slows down model convergence. To address this, the authors introduce FedImp (Federated Impurity Weighting).

FedImp 是一种新颖的算法,它根据本地数据的信息含量(杂质度)评估每个设备的贡献。通过对这些贡献进行归一化,该算法为全局模型更新计算出更有效的聚合权重。在 EMNIST 和 CIFAR-10 数据集上的实验结果表明,FedImp 极大地提高了收敛速度,并且在高度不平衡的数据场景下优于 FedAvg、FedProx 和 FedAdp 等标准基线。

FedImp is a novel algorithm that evaluates the contribution of each device based on the informational content (impurity) of its local data. By normalizing these contributions, the algorithm computes more effective aggregation weights for global model updates. Experimental results on EMNIST and CIFAR-10 datasets demonstrate that FedImp drastically improves convergence speed and outperforms standard baselines like FedAvg, FedProx, and FedAdp, particularly in highly imbalanced data scenarios.


核心发现 (Key Findings)

  • 通信效率: 与现有方法相比,FedImp 在 EMNIST 上将通信轮数减少了多达 64.4%,在 CIFAR-10 上减少了 44.2%。 > Communication Efficiency: FedImp reduces communication rounds by up to 64.4% on EMNIST and 44.2% on CIFAR-10 compared to existing methods.
  • 性能表现: 与 FedAvg、FedProx 和 FedAdp 相比,实现了更高的准确率,尤其是在具有挑战性的高度不平衡数据分布下。 > Performance: Achieves superior accuracy compared to FedAvg, FedProx, and FedAdp, especially under challenging, highly imbalanced data distributions.
  • 运行机制: 利用基于杂质度的加权策略,在聚合过程中更好地考虑了本地数据集的多样性和信息价值。 > Mechanism: Utilizes an impurity-based weighting strategy to better account for the diversity and informational value of local datasets during the aggregation process.

元数据与访问途径 (Metadata & Access)


引用工具 (Citation Tools)