结构特征一致性约束的双语平行句对抽取

• 作者: 毛存礼 高旭 余正涛 王振晗 高盛祥 满志博
• 来源期刊: 重庆大学学报
• 学科: 工学
• 关键词: 双语平行句对 低资源语言 BERT预训练 孪生网络 结构
• 年，卷（期）: 2021,（1）
• 页码范围: 46-56
• 页数: 11页
• 分类号: TP391
• 语种: 中文
• DOI: 10.11835/j.issn.1000-582X.2021.01.006

摘要

平行句对抽取是解决低资源神经机器翻译平行语料不足的有效途径.基于孪生神经网络的平行句对抽取方法的核心是通过跨语言语义相似度判断2个句子是否平行,在相似的语言对上取得了非常显著的效果.然而针对英语东南亚语言双语句对抽取任务,面临语言空间和句子长度存在较大差异,仅考虑跨语言语义相似度而忽略句子长度特征会导致模型对仅有语义包含关系但不平行句对的误判.笔者提出一种结构特征一致性约束的双语平行句对抽取方法,该方法是对基于孪生神经网络的双语平行句对抽取模型的扩展,首先通过多语言BERT预训练语言模型在嵌入层将两种语言编码到同一语义空间,以此缩小语义空间中语言的差异.其次分别对两种语言句子的长度特征进行编码,与孪生网络编码后的句子语义向量进行融合,增强平行句对在语义及结构特征上的表示,降低模型对语义相似但不平行句对的误判.在英缅双语数据集上进行实验,结果表明提出的方法相比基线模型准确率提高了4.64％,召回率提高了2.52％,F1值提高了3.51％.