面向深度学习可解释性的对抗攻击算法

• 作者: 陈权 李莉 陈永乐 段跃兴
• 来源期刊: 计算机应用
• 学科: 工学
• 关键词: 深度神经网络 解释方法 显著图 对抗攻击 遗传算法
• 年，卷（期）: 2022,（2）
• 所属期刊栏目: 网络空间安全|Cyber security
• 页码范围: 510-518
• 页数: 9页
• 分类号: TP393.08
• 语种: 中文
• DOI: 10.11772/j.issn.1001-9081.2021020360

摘要

针对深度神经网络(DNN)中的可解释性导致模型信息泄露的问题,证明了在白盒环境下利用Grad-CAM解释方法产生对抗样本的可行性,并提出一种无目标的黑盒攻击算法——动态遗传算法.该算法首先根据解释区域与扰动像素位置的变化关系改进适应度函数,然后通过多轮的遗传算法在不断减少扰动值的同时递增扰动像素的数量,而且每一轮的结果坐标集会在下一轮的迭代中保留使用,直到在未超过扰动边界的情况下扰动像素集合使预测标签发生翻转.在实验部分,所提算法在AlexNet、VGG-19、ResNet-50和SqueezeNet模型下的攻击成功率平均为92.88％,与One pixel算法相比,虽然增加了8％的运行时间,但成功率提高了16.53个百分点.此外,该算法能够在更短的运行时间内,使成功率高于Ada-FGSM算法3.18个百分点,高于PPBA算法8.63个百分点,并且与Boundary-attack算法的成功率相差不大.结果表明基于解释方法的动态遗传算法能有效进行对抗攻击.