对抗样本生成技术综述

• 作者: 宋明黎 潘文雯 王新宇 陈纯
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 深度学习 对抗样本生成 扰动 目标定向 目标非定向 黑盒测试
• 年，卷（期）: 2020,（1）
• 所属期刊栏目: 模式识别与人工智能
• 页码范围: 67-81
• 页数: 15页
• 分类号: TP18
• 字数: 13749字
• 语种: 中文
• DOI: 10.13328/j.cnki.jos.005884

摘要

如今,深度学习已被广泛应用于图像分类和图像识别的问题中,取得了令人满意的实际效果,成为许多人工智能应用的关键所在.在对于模型准确率的不断探究中,研究人员在近期提出了“对抗样本”这一概念.通过在原有样本中添加微小扰动的方法,成功地大幅度降低原有分类深度模型的准确率,实现了对于深度学习的对抗目的,同时也给深度学习的攻方提供了新的思路,对如何开展防御提出了新的要求.在介绍对抗样本生成技术的起源和原理的基础上,对近年来有关对抗样本的研究和文献进行了总结,按照各自的算法原理将经典的生成算法分成两大类——全像素添加扰动和部分像素添加扰动,之后,以目标定向和目标非定向、黑盒测试和白盒测试、肉眼可见和肉眼不可见的二级分类标准进行二次分类.同时,使用MNIST数据集对各类代表性的方法进行了实验验证,以探究各种方法的优缺点.最后总结了生成对抗样本所面临的挑战及其可以发展的方向,并就该技术的发展前景进行了探讨.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	陈纯	浙江大学计算机科学与技术学院	134	1781	20.0	37.0
2	王新宇	浙江大学计算机科学与技术学院	27	144	6.0	11.0
3	潘文雯	浙江大学计算机科学与技术学院	1	1	1.0	1.0
4	宋明黎	浙江大学计算机科学与技术学院	15	149	7.0	12.0