计算机应用研究

作者：王虎,王晓峰,李可,

单位：北方民族大学a.计算机科学与工程学院;b.图形图像智能处理国家民委重点实验室,银川750021；

关键词：用户异质性,联邦学习,知识蒸馏,潜在空间生成器,概率分布,

基金：国家自然科学基金资助项目(62062001)；宁夏青年拔尖人才项目(2021)；；

用户的异质性对联邦学习（FL）构成了显著挑战，这可能导致全局模型偏移和收敛速度缓慢。针对此问题，提出一种结合知识蒸馏和潜在空间生成器的联邦学习方法（FedLSG）。该方法通过中央服务器学习一个搭载潜在空间生成器的生成模型，该模型能够提取并模拟不同用户端样本标签的概率分布，从而生成更加丰富和多样的伪样本来指导用户端模型的训练。这种方法旨在有效解决FL中的用户异质性问题。通过理论分析和实验验证，展示了与现有FedGen方法相比，FedLSG普遍比FedGen的测试精度高出1%左右，前20轮的通信效率优于FedGen，同时还能提供一定程度的用户隐私保护。

来源：2024年第11期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2024年第11期