面向自然语言推理的基于截断高斯距离的自注意力机制

• 作者: 张鹏飞 李冠宇 贾彩燕
• 来源期刊: 计算机科学
• 学科: 工学
• 关键词: 自然语言推理 自注意力机制 距离掩码 截断高斯掩码
• 年，卷（期）: 2020,（4）
• 所属期刊栏目: 人工智能
• 页码范围: 178-183
• 页数: 6页
• 分类号: TP181
• 字数: 5588字
• 语种: 中文
• DOI: 10.11896/jsjkx.190600149

摘要

在自然语言理解任务中,注意力机制由于可以有效捕获词在上下文语境中的重要程度并提高自然语言理解任务的有效性而受到了人们的普遍关注.基于注意力机制的非递归深度网络Transformer,不仅以非常少的参数和训练时间取得了机器翻译学习任务的最优性能,还在自然语言推理(Gaussian-Transformer)、词表示学习(Bert)等任务中取得了令人瞩目的成绩.目前Gaussian-Transformer已成为自然语言推理任务性能最好的方法之一.然而,在Transformer中引入Gaussian先验分布对词的位置信息进行编码,虽然可以大大提升邻近词的重要程度,但由于Gaussian分布中非邻近词的重要性会快速趋向于0,对当前词的表示有重要作用的非邻近词的影响会随着距离的加深消失殆尽.因此,文中面向自然语言推理任务,提出了一种基于截断高斯距离分布的自注意力机制,该方法不仅可以凸显邻近词的重要性,还可以保留对当前词表示具有重要作用的非邻近词的信息.在自然语言推理基准数据集SNLI和MultiNLI上的实验结果证实,截断高斯距离分布自注意力机制能够更有效地提取句子中词语的相对位置信息.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	贾彩燕	北京交通大学计算机与信息技术学院	23	180	9.0	12.0
2	张鹏飞	北京交通大学计算机与信息技术学院	8	22	3.0	4.0
3	李冠宇	北京交通大学交通数据分析与挖掘北京市重点实验室	2	0	0.0	0.0