基于XLnet语言模型的中文命名实体识别

• 作者: 姚贵斌 张起贵
• 来源期刊: 计算机工程与应用
• 关键词: 命名实体识别 词向量 XLnet 语言模型
• 年，卷（期）: 2021,（18）
• 所属期刊栏目: 模式识别与人工智能|Pattern Recognition and Artificial Intelligence
• 页码范围: 156-162
• 页数: 7页
• 分类号: TP391.1
• 语种: 中文
• DOI: 10.3778/j.issn.1002-8331.2005-0355

摘要

语言模型的建立对挖掘句子内部语义信息有着直接的影响,为了提高中文命名实体识别率,字的语义表示是关键所在.针对传统的中文命名实体识别算法没有充分挖掘到句子内部的隐藏信息问题,该文利用LSTM提取经过大规模语料预训练生成的字向量特征,同时将词向量预测矩阵传入到字向量特征提取阶段,通过矩阵运算融合为词向量特征,并进一步利用CNN提取词语之间的空间信息,将其与得到的词向量特征整合到一起输入语言模型XLnet(Generalized autoregressive pretraining for language understanding)中,然后经过BiGRU-CRF输出最优标签序列,提出了CAW-XLnet-BiGRU-CRF网络框架.并与其他的语言模型作了对比分析,实验结果表明,该框架解决了挖掘内部隐藏信息不充分问题,在《人民日报》1998年1月份数据集上的F1值达到了95.73％,能够较好地应用于中文命名实体识别任务.