一种基于WSD层级记忆网络建模的文档表示方法

• 作者: 丁行硕 张柯文 成洁怡 方强强 朱全银 李翔 马甲林
• 来源期刊: 淮阴工学院学报
• 学科: 工学
• 关键词: 自然语言处理 文档建模 层级记忆网络 Attention机制
• 年，卷（期）: 2020,（3）
• 所属期刊栏目: 信息与计算机
• 页码范围: 47-53
• 页数: 7页
• 分类号: TP391.1
• 字数: 4710字
• 语种: 中文

摘要

针对传统自然语言处理中基于中文文档建模方法忽视了上下文语义关系和文档层级结构的问题,提出一种基于WSD层级记忆网络建模的文档表示方法,以充分利用词句级联的层次关系,增强文档建模内部的语义联系,实现文档分类.该方法首先通过Bert模型进行词到句的表示;然后利用双向长短时记忆网络结合注意力机制输出每个时刻句子信息的重要程度;最后通过全连接层获得连续的文档模型进行分类预测.对THUCNEWS、CHEM&ENGNEWS两个数据集进行仿真实验,结果表明本方法相比传统方法准确性提高7.06％ ～18.31％,有效地提高了文档分类的预测精度,为文档分类提供借鉴.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	朱全银	淮阴工学院计算机与软件工程学院	70	328	8.0	16.0
2	马甲林	淮阴工学院计算机与软件工程学院	9	34	4.0	5.0
3	李翔	淮阴工学院计算机与软件工程学院	32	153	6.0	12.0
4	方强强	淮阴工学院计算机与软件工程学院	2	0	0.0	0.0
5	张柯文	淮阴工学院计算机与软件工程学院	2	0	0.0	0.0
6	成洁怡	淮阴工学院计算机与软件工程学院	1	0	0.0	0.0
7	丁行硕	淮阴工学院计算机与软件工程学院	1	0	0.0	0.0