计算机应用研究

作者：张仁斌,崔宇航,张子石,

单位：合肥工业大学a.计算机与信息学院;b.工业安全与应急技术安徽省重点实验室,合肥230601；

关键词：联邦学习,异常检测,投毒攻击,防御机制,深度学习,

基金：国家重点研发计划专项资助项目(2016YFC0801804,2016YFC0801405)；中央高校基本科研业务费专项资金资助项目(PA2019GDPK0074)；；

利用自编码器模型检测恶意模型更新的联邦学习框架是一种优秀的投毒攻击防御框架，但现有的基于自编码器的模型存在训练困难、异常检测能力不足等问题。针对以上问题，提出了一种基于β-VAE的联邦学习异常更新检测算法：服务器端通过抑制训练样本的随机属性，生成更稳定的训练数据集，并使用该数据集对β-VAE异常检测模型进行即时训练。利用该模型计算客户端上传的任务模型更新的异常分数，然后根据动态阈值来检测并移除异常更新。通过三个联邦学习任务对算法进行了验证，即在MNIST数据集上使用逻辑回归（logistic regression，LR）模型进行分类、在FEMNIST数据集上使用卷积神经网络（convolutional neural network，CNN）进行分类以及在Shakespeare数据集上使用循环神经网络（recurrent neural network，RNN）进行字符预测。实验结果表明，在多种攻击场景下，该算法下的任务模型相较于其他防御算法都取得了更高的准确率。这表明在非独立同分布场景下，该算法对联邦学习投毒攻击具有良好的鲁棒性。

来源：2024年第8期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2024年第8期