融合语句-实体特征与Bert的中文实体关系抽取模型

• 作者: 段俊花 朱怡安 邵志运 钟冬 张黎翔 史先琛
• 来源期刊: 微电子学与计算机
• 关键词: 自然语言处理 关系抽取 深度学习 BERT Transformer
• 年，卷（期）: 2022,（4）
• 所属期刊栏目: 计算机技术_人工智能与算法
• 页码范围: 17-23
• 页数: 6页
• 分类号: TP181
• 语种: 中文
• DOI: 10.19304/J.ISSN1000-7180.2021.0996

摘要

关系抽取是信息抽取技术的重要环节，旨在从无结构的文本中抽取出实体之间的关系.目前基于深度学习的实体关系抽取已经取得了一定的成果，但其特征提取不够全面，在各项实验指标方面仍有较大的提升空间.实体关系抽取不同于其他自然语言分类和实体识别等任务，它主要依赖于句子和两个目标实体的信息.本文根据实体关系抽取的特点，提出了SEF-BERT关系抽取模型(Fusion Sentence-Entity Features and Bert Model).该模型以预训练BERT模型为基础，文本在经过BERT模型预训练之后，进一步提取语句特征和实体特征.然后对语句特征和实体特征进行融合处理，使融合特征向量能够同时具有语句和两个实体的特征，增强了模型对特征向量的处理能力.最后，分别使用通用领域数据集和医学领域数据集对该模型进行了训练和测试.实验结果表明，与其他已有模型相比，SEF-BERT模型在两个数据集上都有更好的表现.