基于BERT的盗窃罪法律文书命名实体识别方法

• 作者: 李春楠 王雷 孙媛媛 林鸿飞
• 来源期刊: 中文信息学报
• 关键词: BERT 法律文书 命名实体识别 有序神经元
• 年，卷（期）: 2021,（8）
• 所属期刊栏目: 信息抽取与文本挖掘|Information Extraction and Text Mining
• 页码范围: 73-81
• 页数: 9页
• 分类号: TP391
• 语种: 中文
• DOI: 10.3969/j.issn.1003-0077.2021.08.010

摘要

法律文书命名实体识别是智慧司法领域的关键性和基础性任务.在目前法律文书命名实体识别方法中,存在实体定义与司法业务结合不紧密、传统词向量无法解决一词多义等问题.针对以上问题,该文提出一种新的法律文本命名实体定义方案,构建了基于起诉意见书的法律文本命名实体语料集LegalCorpus;提出一种基于BERT-ON-LSTM-CRF(Bidirectional Encoder Representations from Transformers-Ordered Neuron-Long Short Term Memory Networks-Conditional Random Field)的法律文书命名实体识别方法,该方法首先利用预训练语言模型BERT根据字的上下文动态生成语义向量作为模型输入,然后运用ON-LSTM对输入进行序列和层级建模以提取文本特征,最后利用CRF获取最优标记序列.在LegalCorpus上进行实验,该文提出的方法F1值达到86.09％,相比基线模型lattice LSTM F1值提升了7.8％.实验结果表明,该方法可以有效对法律文书的命名实体进行识别.