基于图卷积神经网络的隐式篇章关系识别

• 作者: 阮慧彬 孙雨 洪宇 吴成豪 李晓 周国栋
• 来源期刊: 中文信息学报
• 关键词: 隐式篇章关系识别 图卷积神经网络 自注意力机制 交互式注意力机制
• 年，卷（期）: 2021,（8）
• 所属期刊栏目: 语言分析与计算|Language Analysis and Calculation
• 页码范围: 28-37
• 页数: 10页
• 分类号: TP391
• 语种: 中文
• DOI: 10.3969/j.issn.1003-0077.2021.08.004

摘要

隐式篇章关系识别是篇章关系识别的子任务,其挑战性在于难以学习到具有丰富语义信息和交互信息的论元表示.针对这一难点,该文提出一种基于图卷积神经网络(Graph Convolutional Network,GCN)的隐式篇章关系分类方法.该方法采用预训练语言模型BERT(Bidirectional Encoder Representation from Transformers)编码论元以获取论元表示,再分别拼接论元表示和注意力分数矩阵作为特征矩阵和邻接矩阵,构造基于图卷积神经网络的分类模型,从而根据论元自身信息以及交互信息对论元表示进行调整,以得到有助于隐式篇章关系识别的论元表示.该文利用宾州篇章树库(Penn Discourse Treebank,PDTB)语料进行实验,实验结果表明,该方法在四大类关系上分类性能优于基准模型BERT,且其在偶然(Contingency)关系和扩展(Expansion)关系上优于目前先进模型,F1值分别达到60.70％ 和74.49％.