基于BERT的语义匹配算法在问答系统中的应用

• 作者: 吴炎 王儒敬
• 来源期刊: 仪表技术
• 学科: 工学
• 关键词: 中文语义匹配 BERT模型 文本相似度 attention机制 问句匹配 预训练语言模型
• 年，卷（期）: 2020,（6）
• 页码范围: 19-22,30
• 页数: 5页
• 分类号: TP391
• 语种: 中文

摘要

随着知识图谱和自然语言处理技术的高速发展,对智能搜索和智能问答等应用的要求越来越高,语义匹配技术成为其中不可缺少的一环.高效准确的语义匹配算法通过计算两个句子的语义相似度,可以显著提高文本搜索、问答匹配的效率,因此,提出一种基于BERT模型(Bidirectional Encoder Representations from Transformers)的中文语义匹配算法.该算法将句子转换为特征向量表示,结合Attention机制,计算两个句子的语义相似度进行匹配.经过与传统的语义匹配模型BiLSTM(Bi-directional Long Short-Term Memory)、ESIM (Enhanced Sequential Inference Model)、BiMPM(Bilateral Multi-Perspective Matching)的对比实验,基于BERT的中文语义匹配算法在测试集上准确率、召回率、F1值分别可达86.38％、94.77％、87.43％,均优于以上语义匹配模型算法.