基于迁移学习的维吾尔语命名实体识别

• 作者: 吾守尔·斯拉木 孔祥鹏 李哲 杨启萌
• 来源期刊: 东北师大学报（自然科学版）
• 学科: 工学
• 关键词: 迁移学习 BERT BiGRU 空洞卷积网络
• 年，卷（期）: 2020,（2）
• 页码范围: 58-65
• 页数: 8页
• 分类号: TP391
• 字数: 4536字
• 语种: 中文
• DOI: 10.16163/j.cnki.22-1123/n.2020.02.010

摘要

针对维吾尔语命名实体识别存在无法关注词序列依赖关系等问题,提出一种基于迁移学习的联合深度模型(TBIBC).首先通过BERT(Bidirectional Encoder Representations from Transformers)预训练中文数据集生成具有语义信息的词向量,再将词向量序列通过空洞卷积神经网络(IDCNN)进行膨胀操作以减少神经元层数和参数,输出向量输入到双向门控循环单元(BiGRU)进行上下文语义信息提取,然后通过CRF层得到最优标签序列.模型采用共享深度神经网络隐藏层的方法将训练好的中文实体识别模型迁移到维吾尔语模型上.结果表明,该模型的准确率为91.39％,召回率为90.11％,F1值达到90.75％,能显著提升维吾尔语命名实体识别性能.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	吾守尔·斯拉木	新疆大学信息科学与工程学院	148	619	13.0	18.0
2	李哲	新疆大学软件学院	15	67	5.0	8.0
3	孔祥鹏	新疆大学软件学院	1	0	0.0	0.0
4	杨启萌	新疆大学软件学院	3	0	0.0	0.0