基于粒子群优化的对抗样本生成算法

• 作者: 云本胜 卢红波 吴淑慧 周武杰 纪守领 钱亚冠 陶祥兴 雷景生
• 来源期刊: 电子与信息学报
• 学科: 工学
• 关键词: 机器学习 支持向量机 探测攻击 显著性扰动 对抗样本
• 年，卷（期）: 2019,（7）
• 所属期刊栏目: 论文
• 页码范围: 1658-1665
• 页数: 8页
• 分类号: TP309.2
• 字数: 6419字
• 语种: 中文
• DOI: 10.11999/JEIT180777

摘要

随着机器学习被广泛的应用,其安全脆弱性问题也突显出来.该文提出一种基于粒子群优化(PSO)的对抗样本生成算法,揭示支持向量机(SVM)可能存在的安全隐患.主要采用的攻击策略是篡改测试样本,生成对抗样本,达到欺骗SVM分类器,使其性能失效的目的.为此,结合SVM在高维特征空间的线性可分的特点,采用PSO方法寻找攻击显著性特征,再利用均分方法逆映射回原始输入空间,构建对抗样本.该方法充分利用了特征空间上线性模型上易寻优的特点,同时又利用了原始输入空间篡改数据的可解释性优点,使原本难解的优化问题得到实现.该文对2个公开数据集进行实验,实验结果表明,该方法通过不超过7％的小扰动量生成的对抗样本均能使SVM分类器失效,由此证明了SVM存在明显的安全脆弱性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	周武杰	浙江科技学院电子与信息工程学院	19	46	3.0	6.0
2	纪守领	浙江大学计算机学院	4	25	2.0	4.0