结合注意力及胶囊网络的多通道关系抽取模型

• 作者: 张亚彤 彭敦陆
• 来源期刊: 小型微型计算机系统
• 关键词: 远程监督 关系分类 多通道 注意力机制 胶囊网络
• 年，卷（期）: 2021,（10）
• 所属期刊栏目: 人工智能与算法研究|Artificial Intelligence and Algorithms Research
• 页码范围: 2038-2043
• 页数: 6页
• 分类号: TP311
• 语种: 中文
• DOI: 10.3969/j.issn.1000-1220.2021.10.005

摘要

远程监督关系抽取是自然语言处理领域的重要任务之一.由于识别实体关系的任务是在句子级别进行的,注意力机制分配权重可能存在误差,且现有深度学习模型常采用卷积神经网络进行最终关系分类,并不能充分利用标记实体的位置信息.本文提出了一种结合注意力及胶囊网络的多通道关系抽取模型(BG-AMC),该模型首先通过双向GRU神经网络对句子词向量进行编码以获取句子的高维语义,接着利用注意力机制辅助生成句子的多通道表示,最后采用胶囊网络进行关系分类.多通道中的每个通道在递归传播时互不影响,可以使神经网络学习到同一句子的多种表示形式,以减轻句子歧义,胶囊网络可获取到句子实体的位置信息.实验表明,BG-AMC与其他基线模型对比能够提高远程监督关系抽取的效果.