融合注意力机制的电子病历命名实体识别

• 作者: 刘小云 方玉华 陈琛
• 来源期刊: 计算机技术与发展
• 学科: 工学
• 关键词: 命名实体识别 注意力机制 电子病历 双向长短期记忆神经网络 条件随机场
• 年，卷（期）: 2020,（10）
• 所属期刊栏目: 应用开发研究
• 页码范围: 216-220
• 页数: 5页
• 分类号: TP391.1
• 语种: 中文
• DOI: 10.3969/j.issn.1673-629X.2020.10.038

摘要

命名实体识别是自然语言处理中的一项基础性关键任务,基于电子病历命名实体识别是临床决策支持和医疗知识图谱构建等任务的基础.针对传统的双向长短时记忆神经网络(bi-directional long short-term memory,BiLSTM)结合条件随机场(conditional random field,CRF)的BiLSTM-CRF模型在处理医疗文本命名实体识别问题时面临的文本特征提取不够充分和未登录词不能充分识别等问题,引入注意力机制(attention mechanisms),提出一种基于注意力机制的BiLSTM-CRF命名实体识别模型.该模型以字向量作为神经网络的输入,BiLSTM层建模上下文信息,捕捉双向的语义依赖;ATTENTION层重点关注输入数据中显著的与当前输出相关的特征,抑制无用信息;CRF层充分考虑了句子级别的标签依赖信息,对整个句子进行解码预测输出.实验结果表明,在电子病历的命名实体识别中,该模型较传统模型提升了一定的识别效果.