自动化机器学习中的超参调优方法

• 作者: 张爱军 杨泽斌
• 来源期刊: 中国科学（数学）
• 关键词: 自动化机器学习 超参调优 Bayes优化 序贯均匀设计
• 年，卷（期）: 2020,（5）
• 所属期刊栏目: 论文
• 页码范围: 695-710
• 页数: 16页
• 语种: 中文
• DOI: 10.1360/N012019-00092

摘要

本文介绍近年逐渐兴起的自动化机器学习框架,着重讨论其中颇具挑战的超参调优问题.常用的调参方法有格子点法、随机搜索等批量抽样策略,还包括Bayes优化、群体搜索算法和强化学习等序贯策略.由方开泰和王元早在1990年提出的贯序数论优化算法,利用序贯均匀设计对复杂响应曲面寻求全局最优值,同样适用于超参调优.本文以支持向量机和极限梯度推进机这两种常用的机器学习模型为例,结合两组典型的二分类数据集,对多种超参调优方法进行测试.通过比较分析发现一种改进的贯序数论优化算法,对解决自动化机器学习中的调参问题,颇具潜力.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	张爱军		1	0	0.0	0.0
2	杨泽斌		1	0	0.0	0.0