基于自注意力模型的企业关系抽取

• 作者: 张豪杰 毛建华
• 来源期刊: 电子测量技术
• 学科: 工学
• 关键词: 企业关系抽取 自注意力模型 长程依赖
• 年，卷（期）: 2020,（10）
• 所属期刊栏目: 理论与算法
• 页码范围: 101-105
• 页数: 5页
• 分类号: TP391
• 语种: 中文
• DOI: 10.19651/j.cnki.emt.1903966

摘要

卷积神经网络和长短时记忆网络是当前自然语言处理主要采用的特征抽取方法,但是两者在抽取长程依赖特征时有各自的局限性,因此提出了基于自注意力机制的企业关系抽取模型.通过自注意力模型进一步计算每个词的长程依赖特征,有效捕获了句子内部结构.同时使用词汇层和句子层注意力机制从不同层次抽取与关系分类更相关的特征,相对于其他模型,网络结构更加简单.在公开的公司关系数据中,准确率和召回率明显提升,多头自注意力的特征抽取能力较Bi-GRU强,其F值有2％的提升.通过实验可知,该模型在企业关系抽取中优于其他经典网络.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	毛建华		28	164	7.0	12.0
2	张豪杰		3	0	0.0	0.0