基于Bert-BiLSTM-Attention的互联网金融实体识别方法

• 作者: 倪健 陈鹏兴
• 来源期刊: 信息与电脑
• 学科: 工学
• 关键词: 实体识别 注意力机制 预处理模型 互联网金融 自然语言处理
• 年，卷（期）: 2021,（20）
• 所属期刊栏目: 算法语言
• 页码范围: 58-61
• 页数: 4页
• 分类号: TP391.41|TP183
• 语种: 中文
• DOI: 10.3969/j.issn.1003-9767.2021.20.018

摘要

针对传统实体识别解决方案存在识别准确率较低、自适应能力差等问题,笔者提出一种基于Bert-BilLSTM-CRF的神经网络模型识别互联网金融实体.首先,利用Bert模型对训练集进行预训练,获取抽象特征;其次,利用BiLSTM模型得到具有序列号的抽象特征;再次,把输出结果带入自注意力机制层中对结果进行加权求和,得到加权的抽象特征;最后,通过条件随机场(Conditional Random Filed,CRF)进行解码,提取真实实体.实验结果表明,该方法能够有效提升识别准确率.