计算机应用研究

作者：何洋,彭伟民,

单位：杭州电子科技大学计算机学院,杭州310018；

关键词：联邦学习,知识蒸馏,模型异构性,注意力机制,

基金：浙江省科技计划资助项目(2023C01147)；；

模型异构性源于不同客户端的架构差异，阻碍了联邦学习中的有效知识共享，而通信开销则源于模型更新过程中频繁的参数传输，限制了联邦学习的可扩展性和效率。针对这些挑战，提出了一种基于知识蒸馏与类间关系的联邦学习框架FedKIC。FedKIC引入知识网络，通过深度学习实现异构模型间知识迁移；提出基于注意力机制的类间关系学习策略，通过余弦相似度计算类别间相关性并融合特征，增强相似类别的区分能力；采用“类别知识聚合+浅层权重共享”策略优化通信效率。在CIFAR10和CIFAR100数据集上，FedKIC较FedAvg、FedProx等主流方法精度提升2.13%~3.48%，通信开销降低90%。FedKIC通过类间关系建模与轻量化通信设计，突破了异构联邦学习中“性能-效率-适配性”的三角制约，为物联网、边缘计算等分布式场景提供了实用的协同学习方案。

来源：2026年第2期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2026年第2期