计算机应用研究

作者：魏忠诚,冯浩,张新秋,连彬,

单位：1.河北工程大学a.信息与电气工程学院;b.水利水电学院,河北邯郸056038；2.河北省安防信息感知与处理重点实验室,河北邯郸056038；

关键词：深度学习,局部可视对抗样本,对抗样本检测,注意力机制,稳定性,

基金：国家重点研发计划项目(2018YFF0301004)；国家自然科学基金资助项目(61802107)；河北省自然科学基金资助项目(F2018402251)；河北省高等学校科学技术研究项目(QN2020193)；石家庄市重点研发计划项目(201790571A)；；

随着深度学习的普及与发展，对抗样本的存在严重威胁着深度学习模型的安全。针对物理世界中对抗样本的攻击问题，提出了一种基于注意力机制的物理对抗样本检测方法。该方法将注意力机制与特征压缩相结合，对局部可视对抗样本主要区域进行针对性检测，排除非主要区域的影响，减少计算工作量；通过有效组合多种特征压缩方法对样本中的主要区域进行处理，破坏对抗噪声块的结构，使其失去攻击性。在MNIST 和 CIFAR-10 数据集上对不同的对抗攻击进行防御测试，并与其他对抗防御方法进行对比实验。结果表明，该方法的防御准确率可达到95%以上，与其他局部对抗样本防御方法相比通用性高，稳定性更强，可有效防御局部可视对抗样本的攻击。

来源：2022年第1期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2022年第1期