基于贝叶斯最优化的Xgboost算法的改进及应用

• 作者: 周怡璐 李叶紫 王振友 韩晓卓
• 来源期刊: 广东工业大学学报
• 学科: 工学
• 关键词: Xgboost算法 模型参数 贝叶斯最优化 参数寻优
• 年，卷（期）: 2018,（1）
• 页码范围: 23-28
• 页数: 6页
• 分类号: TP18
• 字数: 3954字
• 语种: 中文
• DOI: 10.12052/gdutxb.170124

摘要

在使用Xgboost框架时,经常涉及各种参数的调整,并且参数组合的选取对模型的分类性能影响较大.传统的参数寻优方法,通常先导出一个惩罚函数,然后运用经验或者穷举法调整参数值来最大化或最小化这个惩罚函数,但是经常会遇到某个模型没有一个显式的表达式情况.这类模型的参数寻优就非常麻烦,同时又会给算法带来一定的不确定性和随机性.本文基于高斯法(GP)的贝叶斯最优化算法对Xgboost框架进行参数寻优,提出了一种新的算法GP_Xgboost,并通过多组数值进行实验.结果表明本文改进的算法分类效果要优于人工调优和穷举法,从而证明了该算法的可行性和有效性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	王振友	广东工业大学应用数学学院	32	211	7.0	14.0
2	韩晓卓	广东工业大学应用数学学院	11	110	5.0	10.0
3	李叶紫	广东工业大学应用数学学院	3	27	2.0	3.0
4	周怡璐	广东工业大学应用数学学院	3	27	2.0	3.0