基于BERT的电子病历命名实体识别

• 作者: 陈琛 吴芬琳
• 来源期刊: 自动化与仪器仪表
• 关键词: 命名实体识别 BERT BiLSTM CRF
• 年，卷（期）: 2021,（3）
• 所属期刊栏目: 自动化应用|AUTOMATION APPLICATIONS
• 页码范围: 173-176
• 页数: 4页
• 分类号: TP391.1
• 语种: 中文
• DOI: 10.14016/j.cnki.1001-9227.2021.03.173

摘要

针对传统模型在处理电子病历文本命名实体识别问题时,存在的无法表征字的多义性和分词错误传递最终识别效果等问题,提出一种基于BERT(Bidirectional Encoder Representations from Transformers)的命名实体识别模型,该方法引入BERT预训练语言模型增强词向量的语义表示;使用BiLSTM(Bi-directional Long Short-term Memory)获取上下文语义依赖;CRF(Conditional Random Field)对隐含状态建模,学习状态序列的特点.实验结果表明,在CCKS2019数据集的命名实体识别中,该模型较传统模型取得较大的提升,且在小数据训练集上识别性能具显著优势.