注意力孪生网络在生物医学文本相似性上的应用

• 作者: 安宏达 李正光 吴镝 郑巍
• 来源期刊: 大连交通大学学报
• 关键词: 文本相似性 孪生网络 注意力机制 词嵌入
• 年，卷（期）: 2021,（2）
• 所属期刊栏目: 电气信息工程|Electrical & Information Engineering
• 页码范围: 109-113
• 页数: 5页
• 语种: 中文
• DOI: 10.13291/j.cnki.djdxac.2021.02.021

摘要

将注意力机制引入到孪生网络中,利用注意力机制提取词的权重并影响孪生网络输出的语义特征,降低输入序列的噪音,而加强了两个序列的相互关系,从而提高改进孪生网络的性能.在两个生物医学文本相似性语料上(SICK和DBMI)的实验结果表明,注意力机制的孪生网络对评估文本相似性的性能有大幅度的提升(在SICK和DBMI数据集上,皮尔森相关系数相对于基线分别提升了0.23和0.7).