基于词向量预训练的不平衡文本情绪分类

• 作者: 刘婷婷 刘箴 林怀逸 柴玉梅 柴艳杰
• 来源期刊: 中文信息学报
• 学科: 工学
• 关键词: 不平衡分类 情绪分类 均衡过采样 预训练词向量
• 年，卷（期）: 2019,（5）
• 所属期刊栏目: 情感分析与社会计算
• 页码范围: 132-142
• 页数: 11页
• 分类号: TP391
• 字数: 8974字
• 语种: 中文

摘要

深度学习中处理不平衡问题的方法多为代价敏感和采样.该文在词向量迁移的基础上提出预训练任务选择方法.用利于小类别区分的预训练词向量来初始化目标模型,并结合均衡过采样充分利用样本信息保持模型在大类别上的精度,使模型提取的文本特征在大小类别上具有公平性,从特征层面实现了平衡效果.实验结果表明,在文本情绪分类任务中,对比过采样方法,该方法在大部分无严重过拟合情况下有更好的平衡效果.当存在较严重过拟合时,该方法在目标分类数为三时平衡效果显著,并通过实验验证了预训练方法可与代价敏感方法相结合提升平衡性能.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	柴玉梅	郑州大学信息工程学院	71	900	17.0	28.0
2	刘箴	宁波大学信息科学与工程学院	81	465	11.0	18.0
3	刘婷婷	宁波大学信息科学与工程学院	30	81	5.0	7.0
4	柴艳杰	宁波大学信息科学与工程学院	24	136	6.0	11.0
5	林怀逸	宁波大学信息科学与工程学院	1	2	1.0	1.0