基于位置感知能力胶囊网络的实体关系提取

• 作者: 刘博闻 范春晓
• 来源期刊: 计算机工程与应用
• 关键词: 自然语言处理 实体关系提取 胶囊网络(CapsuleNet) 位置感知能力 PPCNet
• 年，卷（期）: 2021,（6）
• 所属期刊栏目: 模式识别与人工智能|Pattern Recognition and Artificial Intelligence
• 页码范围: 101-107
• 页数: 7页
• 分类号: TP181
• 语种: 中文
• DOI: 10.3778/j.issn.1002-8331.1912-0196

摘要

目前实体关系提取大都使用卷积神经网络(CNN)和循环神经网络(RNN).但CNN和RNN均以标量形式进行特征表达,对位置信息的敏感度不够理想.同时,CNN和RNN的最大池化(max-pooling)导致特征信息丢失.针对这两个问题,引入胶囊网络(CapsuleNet),构建了具备位置感知能力的Position Perception CapsuleNet(PPCNet).胶囊(Capsule)是一组神经元,特征表达基于向量形式.PPCNet将词间的位置关系转化为位置向量(position embedding)融入Capsule以获得位置感知能力.此外,PPCNet使用动态路由(Dynamic routing)替代池化,以减少特征损失,在SemEval-2010task8数据集上得到82.84％的F1值.