基于改进ERNIE-DPCNN模型的中文文本分类

• 作者: 牛玉婷 陈伯琪 陈彬
• 来源期刊: 江苏师范大学学报（自然科学版）
• 关键词: 文本分类 ERNIE模型 DPCNN模型 改进的ERNIE-DPCNN模型 BERT模型
• 年，卷（期）: 2021,（1）
• 所属期刊栏目: 信息科学与技术|Information Science & Technology
• 页码范围: 47-52
• 页数: 6页
• 分类号: TP391.1
• 语种: 中文
• DOI: 10.3969/j.issn.2095-4298.2021.01.009

摘要

利用自然语言处理中一种基于字向量的增强语言表征模型——ERNIE,通过随机隐藏部分字、词组、实体语义单元,预测上下文实现语言表征,并将ERNIE预训练模型输出的词向量输入到改进的DPCNN模型,形成改进的ERNIE-DPCNN模型,用于中文文本分类.通过实例将改进的ERNIE-DPCNN模型与ERNIE、BERT、BERT-DPCNN、ERNIE-CNN、ERNIE-RNN、ERNIE-DPCNN 6类模型在准确率、精确率、召回率、运行时间等指标上进行对比,结果表明,改进的ERNIE-DPCNN模型均优于其他模型.