攻击分类器的对抗样本生成技术的现状分析

• 作者: 叶启松 戴旭初
• 来源期刊: 计算机工程与应用
• 学科: 工学
• 关键词: 深度学习 安全 对抗样本 攻击 分类器 脆弱性
• 年，卷（期）: 2020,（5）
• 所属期刊栏目: 热点与综述
• 页码范围: 34-42
• 页数: 9页
• 分类号: TP181
• 字数: 9728字
• 语种: 中文
• DOI: 10.3778/j.issn.1002-8331.1909-0228

摘要

对抗样本生成技术是近年来深度学习应用于安全领域的一个热点,主要是研究对抗样本生成的机理、方法和实现方法,其目的是为了更好地理解和应对深度学习系统的脆弱性和安全性问题.重点关注深度神经网络分类器的对抗样本生成技术,介绍了对抗样本的概念,按"攻击条件"和"攻击目标",将分类器的攻击分为四大类,分别是白盒条件下的定向攻击、白盒条件下的非定向攻击、黑盒条件下的定向攻击和黑盒条件下的非定向攻击.在此基础上,深入分析了每种攻击下典型的对抗样本生成技术,包括基本思想、方法和实现算法,并从适用场景、优点和缺点三个角度对它们进行了比较.通过对研究现状的分析,表明了对抗样本生成技术的多样性、规律性,以及不同生成技术的共性和差异性,为进一步研究和发展对抗样本生成技术,提高深度学习系统的安全性,提供有益的参考.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	戴旭初	中国科学技术大学网络空间安全学院	85	552	11.0	20.0
2	叶启松	中国科学技术大学网络空间安全学院	1	1	1.0	1.0