丰富特征提取的句子语义等价识别研究

• 作者: 刘高军 寇婕 段建勇 霍卫涛 王昊
• 来源期刊: 小型微型计算机系统
• 关键词: 句子语义等价识别 特征提取 句子匹配 变体多头注意力机制
• 年，卷（期）: 2021,（10）
• 所属期刊栏目: 人工智能与算法研究|Artificial Intelligence and Algorithms Research
• 页码范围: 2017-2022
• 页数: 6页
• 分类号: TP389
• 语种: 中文
• DOI: 10.3969/j.issn.1000-1220.2021.10.001

摘要

句子语义等价识别任务(SSEI)在问答任务中扮演着至关重要的角色.目前,基于中文的语义等价任务在没有给定场景的前提下直接判断两个问句的语义,仍存在相同的意思也会被错误理解的问题.因此,本文提出了一种丰富特征信息提取的RFEM(richer feature extraction model)模型.首先,在编码层中,使用CNN和LSTM分别提取局部特征、存储历史信息特征,融合后的编码信息经过对齐层中的变体多头注意力机制,更大化地保留了原始信息的完整性;其次,在对齐层中,对融入了残差特征的编码进行优化,避免网络加深引起的梯度消失问题,改进后的模型对于特征提取具备更好的效果.该实验结果在公开中文数据集BQ上达到了82.71％,比目前最好的结果高0.86％,在通过置信区间计算清洗后的BQ数据集上达到了93.2％,比基线结果高5.1％.