面向中文文本倾向性分类的对抗样本生成方法

• 作者: 唐奔宵 汪润 王丽娜 王文琦
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 中文文本 对抗样本 深度学习模型 评分函数 黑盒
• 年，卷（期）: 2019,（8）
• 所属期刊栏目: 面向自主安全可控的可信计算专题
• 页码范围: 2415-2427
• 页数: 13页
• 分类号: TP309
• 字数: 9119字
• 语种: 中文
• DOI: 10.13328/j.cnki.jos.005765

摘要

研究表明,在深度神经网络(DNN)的输入中添加小的扰动信息,能够使得DNN出现误判,这种攻击被称为对抗样本攻击.而对抗样本攻击也存在于基于DNN的中文文本的情感倾向性检测中,因此提出了一种面向中文文本的对抗样本生成方法WordHanding.该方法设计了新的词语重要性计算算法,并用同音词替换以生成对抗样本,用于在黑盒情况下实施对抗样本攻击.采用真实的数据集(京东购物评论和携程酒店评论),在长短记忆网络(LSTM)和卷积神经网络(CNN)这两种DNN模型上验证该方法的有效性.实验结果表明,生成的对抗样本能够很好地误导中文文本的倾向性检测系统.