深度卷积神经网络图像识别模型对抗鲁棒性技术综述

• 作者: 孙浩 陈进 雷琳 计科峰 匡纲要
• 来源期刊: 雷达学报
• 关键词: 深度卷积神经网络 SAR图像识别 信息安全 对抗攻击与防御 鲁棒性评估
• 年，卷（期）: 2021,（4）
• 所属期刊栏目: 雷达电子对抗|Radar Electronic Countermeasures
• 页码范围: 571-594
• 页数: 24页
• 分类号: TP391
• 语种: 中文
• DOI: 10.12000/JR21048

摘要

近年来,以卷积神经网络为代表的深度识别模型取得重要突破,不断刷新光学和SAR图像场景分类、目标检测、语义分割与变化检测等多项任务性能水平.然而深度识别模型以统计学习为主要特征,依赖大规模高质量训练数据,只能提供有限的可靠性能保证.深度卷积神经网络图像识别模型很容易被视觉不可感知的微小对抗扰动欺骗,给其在医疗、安防、自动驾驶和军事等安全敏感领域的广泛部署带来巨大隐患.该文首先从信息安全角度分析了基于深度卷积神经网络的图像识别系统潜在安全风险,并重点讨论了投毒攻击和逃避攻击特性及对抗脆弱性成因;其次给出了对抗鲁棒性的基本定义,分别建立对抗学习攻击与防御敌手模型,系统总结了对抗样本攻击、主被动对抗防御、对抗鲁棒性评估技术的研究进展,并结合SAR图像目标识别对抗攻击实例分析了典型方法特性;最后结合团队研究工作,指出存在的开放性问题,为提升深度卷积神经网络图像识别模型在开放、动态、对抗环境中的鲁棒性提供参考.