改进的XGBoost在不平衡数据处理中的应用研究

• 作者: 宋玲玲 杨超 王时绘 盛潇
• 来源期刊: 计算机科学
• 学科: 工学
• 关键词: 不平衡数据 XGBoost Focal Loss 特征组合 mRMR CGAN
• 年，卷（期）: 2020,（6）
• 所属期刊栏目: 数据库&大数据&数据科学
• 页码范围: 98-103
• 页数: 6页
• 分类号: TP181
• 字数: 6504字
• 语种: 中文
• DOI: 10.11896/jsjkx.191200138

摘要

传统分类器在处理不平衡数据时,往往会倾向于保证多数类的准确率而牺牲少数类的准确率,导致少数类的误分率较高.针对这一问题,提出一种面向二分类不平衡数据的XGBoost(eXtreme Gradient Boosting)改进方法.其主要思想是分别从数据、特征以及算法3个层面针对不平衡数据的特点进行改进.首先在数据层面,通过条件生成式对抗网络(Conditional Gen-erative Adversarial Nets,CGAN)学习少数类样本的分布信息,训练生成器生成少数类补充样本,调节数据的不平衡性;其次在特征层面,先利用XGBoost进行特征组合生成新的特征,再通过最大相关最小冗余(minimal Redundancy-Maximal Relevance,mRMR)算法筛选出更适合不平衡数据分类的特征子集;最后在算法层面,引入针对不平衡数据分类问题的焦点损失函数(Fo-cal Loss)来改进XGBoost,改进后的XGBoost通过新的数据集训练得到最终模型.在实验阶段,选择G-mean和AUC作为评价指标,6组KEEL数据集上的实验结果验证了所提改进方法的可行性;同时将该方法与现有的4种不平衡分类模型进行比较,实验结果表明所提改进方法具有较好的分类效果.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	王时绘	湖北大学计算机与信息工程学院	51	204	7.0	11.0
3	杨超	湖北大学计算机与信息工程学院	16	21	3.0	3.0
9	宋玲玲	湖北大学计算机与信息工程学院	1	0	0.0	0.0
15	盛潇	湖北大学计算机与信息工程学院	1	0	0.0	0.0