基于图嵌入和区域注意力的多标签文本分类

• 作者: 王进 徐巍 丁一 孙开伟 王利蕾
• 来源期刊: 江苏大学学报（自然科学版）
• 学科: 工学
• 关键词: 多标签 文本分类 序列到序列模型 图嵌入 区域注意力 循环神经网络
• 年，卷（期）: 2022,（3）
• 所属期刊栏目: 计算机与电气工程
• 页码范围: 310-318
• 页数: 9页
• 分类号: TP391.9
• 语种: 中文
• DOI: 10.3969/j.issn.1671-7775.2022.03.010

摘要

针对传统多标签文本分类模型未考虑标签之间以及标签与文本各个部分之间的相关性、低频标签预测效果不佳的问题,使用图嵌入和区域注意力技术来挖掘标签之间以及标签和文本之间的关系,提出了编码器图嵌入和区域注意力机制解码器模型来处理多标签分类任务.采用Bi-LSTM作为编码器,使用图嵌入技术生成标签嵌入矩阵;利用区域注意力机制结合单词级别与区域级别的信息,使得模型在预测每个标签时考虑文本不同部分的信息,挖掘了文本与标签之间的潜在关联;使用循环神经网络和多层感知机作为解码器结合随机策略梯度算法,减少训练损失,改善多标签分类效果.在AAPD和RCV1-V2多标签文本分类数据集上进行试验,根据数据集特征设置相关参数,以micro-F1和Hamming Loss作为评价指标,对比所提出模型与LP、卷积神经网络等9个经典模型.结果表明,所提出模型能够根据高频标签预测出低频标签,在2个数据集上的micro-F1和Hamming Loss均优于经典模型.