基于AE-WGAN的定向对抗样本生成及利用

• 作者: 张志昊 张洁
• 来源期刊: 南京邮电大学学报（自然科学版）
• 学科: 工学
• 关键词: 生成对抗网络 对抗样本 黑盒攻击 半监督学习
• 年，卷（期）: 2020,（1）
• 所属期刊栏目: 计算机与自动控制
• 页码范围: 63-69
• 页数: 7页
• 分类号: TP311
• 字数: 6620字
• 语种: 中文
• DOI: 10.14132/j.cnki.1673-5439.2020.01.010

摘要

由于对抗样本存在通过不易察觉的微小扰动破坏模型准确度的特性,在很大程度上影响深度学习在高安全性需求领域中的应用和部署,例如无人驾驶系统、无人机和入侵检测等.为了生成一种含有轻微语义扰动的对抗样本,文中利用对抗生成网络,设计并实现了一种高质量映射转换的AE-WGAN(Auto Encoder WGAN),然后利用隐层编码迁移算法(Latent Encodings Targeted Transfer,LE-TT)生成定向对抗样本,实现无需获取目标模型内部信息即可定向改变模型预测结果的黑盒攻击.基于经典图像数据集MNIST、CIFAR-10的对抗样本生成结果表明:LE-Tr算法不仅展现出良好的黑盒攻击效果,还具有良好的可转移性;此外,作为一种半监督数据扩增方式,该算法生成的对抗样本被赋予正确的标签后,加入模型再训练后提升了对已知分布外数据的泛化能力.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	张洁	南京邮电大学计算机学院	5	14	2.0	3.0
2	张志昊	南京邮电大学计算机学院	1	0	0.0	0.0