计算机应用研究

作者：曾庆泷,曹栋涛,颜良棋,张佳乐,陈哲毅,程红举,

单位：福州大学计算机与大数据学院,福州350108；

关键词：联邦学习,模型异构,辅助网络,个性化,集成学习,输出堆叠,

基金：国家自然科学基金资助项目(62372111)；福建省自然科学基金资助项目(2023J01267)；；

联邦学习是一种分布式机器学习模式，中央服务器协调多个客户端对分散在不同设备上的数据进行训练。通常，联邦学习假设服务器和所有客户端采用相同的模型结构，从而使服务器能够聚合客户端共享的参数，提升全局模型的性能。然而，在实际场景中，由于不同客户端在硬件上存在差异，它们期望设计独特的本地模型架构。为了在模型异构的场景下实现客户端之间的协同训练，提出了一种新颖的基于个性化辅助网络和输出堆叠的异构联邦学习方法（federated learning with personalized auxiliary network and output stacking，FedPAS）。首先，服务器部署了一个用于协助各客户端与自身进行通信的辅助网络。通过在辅助网络的损失函数中融入不同客户端数据的梯度表示，实现了辅助网络的个性化并将其下发至客户端。然后，受集成学习中多模型输出拼接方法的启发，提出了输出堆叠策略。该策略通过下发至各客户端的辅助网络获取本地数据的输出表示。服务器汇总这些表示生成元数据，并用于客户端本地模型的训练。最后，在MNIST和CIFAR-10数据集的多种数据分布条件下的实验结果表明，该方法在预测准确率上优于最近的几种模型异构联邦学习方法，并且表现出了更强的泛化能力。

来源：2026年第5期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2026年第5期