计算机应用研究

作者：王涛,马川,陈淑平,

单位：1.河北科技师范学院工商管理学院,河北秦皇岛066004；2.燕山大学a.信息科学与工程学院;b.图书馆,河北秦皇岛066004；

关键词：深度学习,神经网络,对抗性图像扰动,稀疏对抗攻击,个人信息保护,

基金：河北省社会科学基金资助项目(HB18SH012)；；

通过研究对抗性图像扰动算法，应对深度神经网络对图像中个人信息的挖掘和发现以保护个人信息安全。将对抗样本生成问题转换为一个含有限制条件的多目标优化问题，考虑神经网络的分类置信度、扰动像素的位置以及色差等目标，利用差分进化算法迭代得到对抗样本。在MNIST和CIFAR-10数据集上，基于深度神经网络LeNet和ResNet进行了对抗样本生成实验，并从对抗成功率、扰动像素数目、优化效果和对抗样本的空间特征等方面进行了对比和分析。结果表明，算法在扰动像素极少的情况下（扰动均值为5）依然可以保证对深度神经网络的有效对抗，并显著优化了扰动像素的位置及色差，达到不破坏原图像的情况下保护个人信息的目的。该研究有助于促进信息技术红利共享与个人信息安全保障之间的平衡，也为对抗样本生成及深度神经网络中分类空间特征的研究提供了技术支撑。

来源：2021年第8期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2021年第8期