对抗黑盒攻击的混合对抗性训练防御策略研究

• 作者: 李云 杭杰 陈慧 韩科技
• 来源期刊: 南京航空航天大学学报
• 学科: 工学
• 关键词: 深度学习 黑盒攻击 贪婪搜索 对抗性训练
• 年，卷（期）: 2019,（5）
• 页码范围: 660-668
• 页数: 9页
• 分类号: TP181
• 字数: 7513字
• 语种: 中文
• DOI: 10.16356/j.1005-2615.2019.05.011

摘要

随着深度学习模型在无人驾驶等安全敏感性任务中的广泛应用,围绕深度模型展开的攻防逐渐成为机器学习研究的热点.黑盒攻击是一种典型的攻击场景,在攻击者不知道模型具体使用结构和参数等情况下仍能进行有效攻击,是现实场景中最常用的攻击方法.因此,分析深度学习模型的脆弱性并设计出更加鲁棒的模型来对抗黑盒攻击成为迫切需要.而传统基于单模型的单强度和多强度对抗性训练方法,在抵御黑盒攻击时性能十分有限;基于多模型的集成对抗性训练方法在抵御高强度、多样化攻击样本效果也不理想.本文提出一种基于贪婪强度搜索的混合对抗性训练方法,实验结果表明,所提出的混合对抗性训练能够有效抵御多样化的黑盒攻击,性能优于传统的集成对抗性训练.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	李云	南京邮电大学计算机科学与技术学院	25	118	6.0	9.0
2	陈慧	南京邮电大学计算机科学与技术学院	4	24	2.0	4.0
3	韩科技		1	1	1.0	1.0
4	杭杰		1	1	1.0	1.0