基于冗余信息压缩的深度学习对抗样本防御方案

• 作者: 冯诗羽 曹玖新 胡轶宁 许笑 谢理哲 陈奕君
• 来源期刊: 网络空间安全
• 学科: 工学
• 关键词: 对抗样本防御 神经网络安全 图像信息压缩
• 年，卷（期）: 2020,（8）
• 所属期刊栏目: 网络与系统安全
• 页码范围: 11-16
• 页数: 6页
• 分类号: TP183
• 字数: 4056字
• 语种: 中文

摘要

近年来,研究者们发现基于神经网络的深度学习系统存在安全隐患,添加了细微扰动的输入样本,可能会使模型失效,这类样本被称为对抗样本.文章提出了冗余信息压缩方案,可以有效地抵御对抗样本攻击.该方案将图像随机压缩与多尺寸缩放集成策略相结合,对图像信息进行选择性压缩处理,有效减少冗余信息,消除了附加扰动.方案的优势体现在三个方面:(1)针对预处理环节,易于实施;(2)实现了随机化和集成策略;(3)与其他对抗样本防御方法兼容.实验结果表明,面对多种先进的对抗样本攻击,与其他预处理防御方案相比,冗余信息压缩防御方案在多个基础模型上都有更出色的防御表现,同时对模型在干净图像上的分类能力影响较小.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	胡轶宁		13	27	3.0	4.0
2	谢理哲	南京医科大学口腔医学院	9	24	2.0	4.0
4	许笑	东南大学网络空间安全学院	1	0	0.0	0.0
5	陈奕君	东南大学计算机科学与工程学院	1	0	0.0	0.0
6	冯诗羽	东南大学网络空间安全学院	1	0	0.0	0.0