基于边界值不变量的对抗样本检测方法

• 作者: 严飞 张立强 张铭伦
• 来源期刊: 网络与信息安全学报
• 学科: 工学
• 关键词: 深度神经网络 边界检查 不变量 对抗样本检测
• 年，卷（期）: 2020,（1）
• 所属期刊栏目: 学术论文
• 页码范围: 38-45
• 页数: 8页
• 分类号: TP309.2
• 字数: 7619字
• 语种: 中文
• DOI: 10.11959/j.issn.2096-109x.2020012

摘要

目前,深度学习成为计算机领域研究与应用最广泛的技术之一,在图像识别、语音、自动驾驶、文本翻译等方面都取得良好的应用成果.但人们逐渐发现深度神经网络容易受到微小扰动图片的影响,导致分类出现错误,这类攻击手段被称为对抗样本.对抗样本的出现可能会给安全敏感的应用领域带来灾难性的后果.现有的防御手段大多需要对抗样本本身作为训练集,这种对抗样本相关的防御手段是无法应对未知对抗样本攻击的.借鉴传统软件安全中的边界检查思想,提出了一种基于边界值不变量的对抗样本检测防御方法,该方法通过拟合分布来寻找深度神经网络中的不变量,且训练集的选取与对抗样本无关.实验结果表明,在LeNet、vgg19模型和Mnist、Cifar10数据集上,与其他对抗检测方法相比,提出的方法可有效检测目前的常见对抗样本攻击,并且具有低误报率.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	严飞	武汉大学国家网络安全学院空天信息安全与可信计算教育部重点实验室	20	427	7.0	20.0
2	张立强	武汉大学国家网络安全学院空天信息安全与可信计算教育部重点实验室	6	148	3.0	6.0
3	张铭伦	武汉大学国家网络安全学院空天信息安全与可信计算教育部重点实验室	1	0	0.0	0.0