基于正则化方法的鲁棒性神经网络识别算法

• 作者: 周灿彬 郑永林 蔡坤彬 周楷彬
• 来源期刊: 网络空间安全
• 关键词: 神经网络 防御 对抗样本 鲁棒性
• 年，卷（期）: 2021,（2）
• 所属期刊栏目: 可控与防御
• 页码范围: 63-65
• 页数: 3页
• 分类号: TP399
• 语种: 中文
• DOI: 10.3969/j.issn.1674-9456.2021.02.012

摘要

近年来,研究者发现在一些正常样本上添加一些特制的对抗性扰动能使深度学习系统崩溃,这些导致发生错误的样本叫做对抗样本,会对系统造成潜在的安全隐患.以往提出的防御方式存在缺陷,泛化性能较弱.论文提出了用正则化后的训练样本重新训练一个卷积网络,而未知样本都可以通过这个重新训练的卷积网络进行识别,这个基于正则化的方法能够提高神经网络的鲁棒性,在面对对抗攻击时能够保持较好的正确识别率.