基于BERT和双向RNN的中文林业知识图谱构建研究

• 作者: 岳琪 李想
• 来源期刊: 内蒙古大学学报（自然科学版）
• 关键词: 深度学习 BERT 命名实体识别 实体关系抽取
• 年，卷（期）: 2021,（2）
• 页码范围: 176-184
• 页数: 9页
• 分类号: TP391
• 语种: 中文
• DOI: 10.13484/j.nmgdxxbzk.20210209

摘要

为了融合碎片化林业文本数据,解决目前林业网络知识散乱、无序和关联性不强的问题,将深度学习与知识图谱相结合,提出一种基于改进BERT和双向RNN的模型用于林业实体识别和实体关系抽取.通过基于实体Mask的BERT词向量处理,自动提取出序列中与研究领域相关的词级和语义特征,将词向量输入命名实体识别模型和实体关系提取模型训练.在通用数据集上,实体关系抽取BERT-BiGRU-Attention模型效果更优,F1值提升1％,准确率在90％以上;实体识别BERT-BiLSTM-CRF模型各项指标比传统模型提高2％.在林业数据集上,模型准确率达到80％以上.表明基于BERT和双向RNN模型构建中文林业知识图谱是可行的.在此模型的基础上搭建中文林业知识图谱智能系统,可以优化林业信息管理方法,促进林业发展.