一种基于改进ELMO模型的组织机构名识别方法

• 作者: 张继永 胡万亭 郭建英
• 来源期刊: 计算机技术与发展
• 学科: 工学
• 关键词: ELMO模型 LSTM模型 机构词 条件随机场 组织机构名识别
• 年，卷（期）: 2020,（11）
• 所属期刊栏目: 智能、算法、系统工程
• 页码范围: 25-29
• 页数: 5页
• 分类号: TP301.6
• 语种: 中文
• DOI: 10.3969/j.issn.1673-629X.2020.11.005

摘要

组织机构名识别是命名实体识别的核心任务之一,也是最困难的任务.近年来,预训练模型在中文自然语言处理领域得到广泛应用,预训练的词嵌入模型在中文命名实体识别上取得了非常好的效果,但是在组织机构名识别上还有很大的提升空间.针对这一问题,改进ELMO(embedding from language models)预训练模型,结合双向LSTM神经网络模型和条件随机场模型,去识别组织机构名.对于ELMO的改进,主要通过筛选高频机构词,然后将高频机构词加入中文字典,通过ELMO模型训练生成机构词向量和普通字向量.字向量不用考虑未登录词的问题,机构词向量引入了先验知识,结合起来可以使得生成的字词向量能够更好地表征组织机构名.实验结果表明,预训练模型的数据集相对较小时,该方法比字向量嵌入的方法有更好的效果,F1值提高了1.3％.