基于BERT的不完全数据情感分类

• 作者: 罗俊 陈黎飞
• 来源期刊: 计算机应用
• 学科: 工学
• 关键词: 不完全数据 情感分类 BERT 栈式降噪自编码器 预训练模型
• 年，卷（期）: 2021,（1）
• 所属期刊栏目: 第八届中国数据挖掘会议(CCDM 2020)
• 页码范围: 139-144
• 页数: 6页
• 分类号: TP391
• 语种: 中文
• DOI: 10.11772/j.issn.1001-9081.2020061066

摘要

不完全数据,如社交平台的互动信息、互联网电影资料库中的影评内容,广泛存在于现实生活中.而现有情感分类模型大多建立在完整的数据集上,没有考虑不完整数据对分类性能的影响.针对上述问题提出基于BERT的栈式降噪神经网络模型,用于面向不完全数据的情感分类.该模型由栈式降噪自编码器(SDAE)和BERT两部分组成.首先将经词嵌入处理的不完全数据输入到SDAE中进行去噪训练,以提取深层特征来重构缺失词和错误词的特征表示;接着将所得输出传入BERT预训练模型中进行精化以进一步改进词的特征向量表示.在两个常用的情感数据集上的实验结果表明,所提方法在不完全数据情感分类中的F1值和准确率分别提高了约6％和5％,验证了所提模型的有效性.