多层信息融合的神经机器翻译

• 作者: 俞鸿飞 周孝青 张民 段湘煜
• 来源期刊: 厦门大学学报（自然科学版）
• 学科: 工学
• 关键词: 神经机器翻译 残差网络 融合
• 年，卷（期）: 2019,（2）
• 所属期刊栏目: 机器翻译模型
• 页码范围: 149-157
• 页数: 9页
• 分类号: TP391.2
• 字数: 7316字
• 语种: 中文
• DOI: 10.6043/j.issn.0438-0479.201811012

摘要

现有最先进的神经机器翻译模型大都依赖于多层神经网络结构,针对多层网络结构易导致信息退化的问题,提出通过融合层与层之间的输出信息来改善各个层之间的残差连接关系的方法,从而使得层与层之间联系更紧密.相比于原来的残差网络连接,进一步优化了深层网络的信息流动结构,使得整个结构有效信息流动更充分.在Transformer模型和序列到序列的卷积(convolutional sequence to sequence,Conv S2S)模型上进行相关实验,大规模中-英翻译任务的实验结果表明,该方法提高了Transformer和Conv S2S的翻译性能.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	张民	苏州大学计算机科学与技术学院	27	94	5.0	9.0
2	段湘煜	苏州大学计算机科学与技术学院	11	10	2.0	2.0
3	周孝青	苏州大学计算机科学与技术学院	1	2	1.0	1.0
4	俞鸿飞	苏州大学计算机科学与技术学院	3	2	1.0	1.0