国内刊号:51-1196/TP
国际刊号:1001-3695
发布日期:
作者:张晓琴,金西兴,陆艳军,曹泽宇,
单位:1.重庆理工大学计算机科学与工程学院,重庆400054;2.重庆市信息通信咨询设计院有限公司,重庆400041;
关键词:数据异构,注意力机制,参数分离,个性化联邦学习,
基金:重庆市技术创新与应用发展专项重点资助项目(CSTB2022TIAD-KPX0054);重庆理工大学研究生教育高质量发展项目(gzlcx20243154);;
提出了一种名为注意力机制驱动的个性化联邦学习特征分离方法(attention-driven feature separation method for personalized federated learning,FedAM),旨在解决传统联邦学习在高度异构数据环境下模型收敛性差和缺乏个性化解决方案的问题。FedAM通过将模型分解为特征提取层和模型头部,加入注意力模块以分别提取全局和个性化信息,从而实现全局与个性化特征的自适应动态分离。此外,FedAM 引入相关性对齐损失来平衡个性化与泛化能力。实验结果表明,FedAM 展现出卓越的性能,不仅在客户端频繁掉线的情况下保持稳健表现,还通过灵活应对异构数据环境,显著提升了个性化和泛化效果。FedAM 有效提升了联邦学习模型的整体性能和适应性,为复杂的联邦学习场景提供了有力支持。
来源:2025年第4期
《计算机应用研究》期刊编辑部