基于BERT的复合网络模型的中文文本分类

• 作者: 刘昌辉 方晓东 殷兴 王丽亚
• 来源期刊: 武汉工程大学学报
• 学科: 工学
• 关键词: BERT BiGRU 注意力机制 中文文本分类 新闻分类
• 年，卷（期）: 2020,（6）
• 所属期刊栏目: 机电与信息工程
• 页码范围: 688-692
• 页数: 5页
• 分类号: TP391.1
• 语种: 中文
• DOI: 10.19843/j.cnki.CN42-1779/TQ.202002009

摘要

针对自然语言在语句结构上有着较强的前后依赖关系,提出一种基于BERT的复合网络模型进行中文新闻分类.首先利用BERT的基于注意力机制的多层双向transformer特征提取器获得字词以及句子之间更加全局的特征关系表达.然后将所得数据输入门结构更加简单的双向门控循环神经网络层将特征增强的同时减少时间代价,加强数据特征的选取精确度.最后将不同权重的文本特征信息输入softmax函数层进行新闻分类.通过在cnews新浪新闻数据集上进行实验,获得97.21％的F1值,结果表明所提特征融合模型较其他模型分类效果更好.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘昌辉		15	40	4.0	5.0
2	王丽亚		5	4	2.0	2.0
3	方晓东		1	0	0.0	0.0
4	殷兴		1	0	0.0	0.0