利用特征融合和整体多样性提升单模型鲁棒性

• 作者: 刘天 宋云飞 王祥丰 邵明莉 陈小红 陈铭松 韦璠
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 物联网 特征融合 整体多样性 模型防御 鲁棒性 对抗样本
• 年，卷（期）: 2020,（9）
• 所属期刊栏目: 智能嵌入式系统专题
• 页码范围: 2756-2769
• 页数: 14页
• 分类号: TP183
• 语种: 中文
• DOI: 10.13328/j.cnki.jos.005943

摘要

使用深度神经网络处理物联网设备的急剧增加产生的海量图像数据是大势所趋,但由于深度神经网络对于对抗样本的脆弱性,它容易受到攻击而危及物联网的安全.所以,如何提高模型的鲁棒性,就成了一个非常重要的课题.通常情况下,组合模型的防御表现要优于单模型防御方法,但物联网设备有限的计算能力使得组合模型难以应用.为此,提出一种在单模型上实现组合模型防御效果的模型改造及训练方法:在基础模型上添加额外的分支;使用特征金字塔对分支进行特征融合;引入整体多样性计算辅助训练.通过在MNIST和CIFAR-10这两个图像分类领域最常用的数据集上的实验表明,该方法能够显著提高模型的鲁棒性.在FGSM等4种基于梯度的攻击下的分类正确率有5倍以上的提高,在JSMA,C&W以及EAD攻击下的分类正确率可达到原模型的10倍.同时,不干扰模型对干净样本的分类精度,也可与对抗训练方法联合使用获得更好的防御效果.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	陈小红		7	28	3.0	5.0
2	王祥丰		2	0	0.0	0.0
3	刘天		4	0	0.0	0.0
4	陈铭松		4	1	1.0	1.0
5	韦璠		1	0	0.0	0.0
6	宋云飞		1	0	0.0	0.0
7	邵明莉		1	0	0.0	0.0