基于数据复杂度的投毒数据检测方法

• 作者: 亢飞 李建彬
• 来源期刊: 计算机应用研究
• 关键词: 机器学习 投毒攻击 梯度上升 数据复杂度
• 年，卷（期）: 2020,（7）
• 所属期刊栏目: 信息安全技术
• 页码范围: 2140-2143
• 页数: 4页
• 分类号: TP309.2
• 语种: 中文
• DOI: 10.19734/j.issn.1001-3695.2018.12.0940

摘要

针对机器学习模型训练过程中攻击者可以利用修改原始训练数据生成投毒数据的方式对机器学习模型进行投毒攻击的问题,提出一种基于数据复杂度的投毒数据检测方法.该方法在正常数据集的基础上,应用梯度上升策略对正常数据集内的样本实例进行自我投毒,通过挖掘自我投毒产生的投毒数据对正常数据集数据复杂度的影响,训练能够辨别投毒数据的检测模型.该方法在选定应用场景中的检测准确率比现有方法有更好的效果.实验结果表明,投毒数据能够有效降低机器学习模型预测能力,应用基于数据复杂度的检测方法能够有效检测投毒数据,降低投毒数据对模型预测能力的不良影响.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	李建彬	中南大学信息安全与大数据研究院	3	17	2.0	3.0
2	亢飞	中南大学信息科学与工程学院	1	0	0.0	0.0