基于梯度的对抗排序攻击方法

• 作者: 吴晨 张儒清 郭嘉丰 范意兴
• 来源期刊: 模式识别与人工智能
• 学科: 工学
• 关键词: 排名竞争 对抗攻击 梯度攻击 神经排序模型 网页检索
• 年，卷（期）: 2022,（3）
• 所属期刊栏目: 研究与应用|Researches and Applications
• 页码范围: 254-261
• 页数: 8页
• 分类号: TP391
• 语种: 中文
• DOI: 10.16451/j.cnki.issn1003-6059.202203005

摘要

互联网检索中普遍存在排名竞争这种对抗攻击行为,会产生许多不良影响,因此对攻击方法的研究有助于设计更鲁棒的排序模型.已有的攻击方法容易被人识别且无法有效攻击神经排序模型.因此,文中提出基于梯度的对抗排序攻击方法.方法分为3个模块:基于梯度大小的词重要度排序、基于梯度的排序攻击和基于词嵌入的同义词替换.针对给定的目标排序模型,首先基于构建的排序攻击目标进行梯度回传,利用梯度信息在指定文档上找到最重要的词.然后,基于投影梯度攻击原理,在词向量空间上对这些最重要的词进行扰动.最后,利用同义词替换技术将这些最重要的词替换为和原词语义相近且和扰动后的词向量最近邻的词,完成文档扰动.在MQ2007、MS MARCO数据集上的实验验证文中方法的有效性.