基于深度强化学习的黑盒对抗攻击算法

• 作者: 李蒙 韩立新
• 来源期刊: 计算机与现代化
• 关键词: 对抗样本 黑盒攻击 深度学习 强化学习
• 年，卷（期）: 2021,（4）
• 所属期刊栏目: 信息安全|INFORMATION SECURITY
• 页码范围: 117-121
• 页数: 5页
• 分类号: TP391.4
• 语种: 中文
• DOI: 10.3969/j.issn.1006-2475.2021.04.020

摘要

针对图像识别领域中的黑盒对抗攻击问题,基于强化学习中DDQN框架和Dueling网络结构提出一种黑盒对抗攻击算法.智能体通过模仿人类调整图像的方式生成对抗样本,与受攻击模型交互获得误分类结果,计算干净样本和对抗样本的结构相似性后获得奖励.攻击过程中仅获得了受攻击模型的标签输出信息.实验结果显示,攻击在CIFAR10和CIFAR100数据集上训练的4个深度神经网络模型的成功率均超过90％,生成的对抗样本质量与白盒攻击算法FGSM相近且成功率更有优势.