基于对抗式数据增强的深度文本检索重排序

• 作者: 陈丽萍 任俊超
• 来源期刊: 计算机系统应用
• 关键词: 神经网络排序模型 稠密表征 信息检索 对抗式数据增强 生成模型
• 年，卷（期）: 2021,（7）
• 所属期刊栏目: 软件技术·算法|Software Technique · Algorithm
• 页码范围: 204-209
• 页数: 6页
• 语种: 中文
• DOI: 10.15888/j.cnki.csa.008114

摘要

在信息检索领域的排序任务中, 神经网络排序模型已经得到广泛使用. 神经网络排序模型对于数据的质量要求极高, 但是, 信息检索数据集通常含有较多噪音, 不能精确得到与查询不相关的文档. 为了训练一个高性能的神经网络排序模型, 获得高质量的负样本, 则至关重要. 借鉴现有方法doc2query的思想, 本文提出了深度、端到端的模型AQGM, 通过学习不匹配查询文档对, 生成与文档不相关、原始查询相似的对抗查询, 增加了查询的多样性,增强了负样本的质量. 本文利用真实样本和AQGM模型生成的样本, 训练基于BERT的深度排序模型, 实验表明,与基线模型BERT-base对比, 本文的方法在MSMARCO和TrecQA数据集上, MRR指标分别提升了0.3％和3.2％.