基于BERT的警情文本命名实体识别

• 作者: 张胜 杜渂 王孟轩 王月
• 来源期刊: 计算机应用
• 学科: 工学
• 关键词: 警情文本 命名实体识别 预训练语言模型 标注规范 词向量
• 年，卷（期）: 2020,（2）
• 所属期刊栏目: 第七届CCF大数据学术会议(BigData2019)
• 页码范围: 535-540
• 页数: 6页
• 分类号: TP391.1
• 字数: 6737字
• 语种: 中文
• DOI: 10.11772/j.issn.1001-9081.2019101717

摘要

针对警情领域关键实体信息难以识别的问题,提出一种基于BERT的神经网络模型BERT-BiLSTM-Attention-CRF用于识别和提取相关命名实体,且针对不同案由设计了相应的实体标记注规范.该模型使用BERT预训练词向量代替传统Skip-gram和CBOW等方式训练的静态词向量,提升了词向量的表证能力,同时解决了中文语料采用字向量训练时词语边界的划分问题;还使用注意力机制改进经典的命名实体识别(NER)模型架构BiLSTM-CRF.BERT-BiLSTM-Attention-CRF模型在测试集上的准确率达91％,较CRF++的基准模型提高7％,也高于BiLSTM-CRF模型86％的准确率,其中相关人名、损失金额、处理方式等实体的F1值均高于0.87.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	杜渂		18	39	4.0	4.0
3	王孟轩		3	4	1.0	2.0
5	张胜		3	4	1.0	2.0
9	王月		3	4	1.0	2.0