一种基于门控空洞卷积的高效中文命名实体识别方法

• 作者: 王笑月 李茹 段菲
• 来源期刊: 中文信息学报
• 学科: 工学
• 关键词: 空洞卷积 门控机制 中文命名实体识别
• 年，卷（期）: 2021,（1）
• 所属期刊栏目: 信息抽取与文本挖掘
• 页码范围: 72-80
• 页数: 9页
• 分类号: TP391
• 语种: 中文

摘要

近年来,基于RNN的模型架构在命名实体识别任务中被广泛采用,但其循环特性导致GPU的并行计算能力无法被充分利用.普通一维卷积虽可以并行处理输入文本,显著缩短模型训练时长,但处理长文本时往往需要堆叠多个卷积层,进而增加梯度消失的风险.针对以上问题,该文采用可通过参数调节感受野范围的空洞卷积,并引入了带有残差连接的门控机制,以强化有效信息,降低无效信息的影响,同时改善梯度消失问题;针对字向量表示能力有限的问题,该文还将字向量与其所属词的位置信息融合,以丰富文本特征.为验证所提出方法的有效性,在MSRA数据集以及Sina Resume数据集上进行了实验,F1值分别达到了92.97％ 与94.98％.与传统基于Bi-LSTM-CRF的命名实体识别模型相比,模型训练速度提升5～6倍,且表现优于一般的RNN架构.