一种神经机器翻译中稀有词模糊语义表示方法

• 作者: 成洁
• 来源期刊: 信息技术
• 学科: 工学
• 关键词: 机器翻译 神经网络 稀有词 模糊语义
• 年，卷（期）: 2020,（12）
• 所属期刊栏目: 基金项目
• 页码范围: 1-7
• 页数: 7页
• 分类号: TP391.2
• 语种: 中文
• DOI: 10.13274/j.cnki.hdzj.2020.12.001

摘要

在现有的神经机器翻译方法中,稀有词通常被<unk>所代替,这给翻译建模带来了很大的挑战.文中提出一种新的稀有词模糊语义表示方法.该方法将层次聚类集成到编解码框架中,通过提供模糊的上下文信息来捕捉稀有词的语义.特别地,文中方法很容易扩展到基于Transformer的神经机器翻译模型中,并且学习所有词汇单词的模糊语义表示,以增强除了稀有词之外的句子表示.实验结果证明,所提出的方法具有较好地性能.