基于强化学习的模型选择和超参数优化

• 作者: 吴佳 周瑞 陈修云 陈森朋
• 来源期刊: 电子科技大学学报
• 学科: 工学
• 关键词: 深度强化学习 超参数优化 LSTM网络 机器学习 模型选择
• 年，卷（期）: 2020,（2）
• 所属期刊栏目: 计算机工程与应用
• 页码范围: 255-261
• 页数: 7页
• 分类号: TP391
• 字数: 5224字
• 语种: 中文
• DOI: 10.12178/1001-0548.2018279

摘要

随着机器学习技术的不断发展,机器学习算法种类的增多以及模型复杂度提高,造成了实践应用中的两大难题:算法模型选择及模型超参数优化.为了实现模型选择和超参数优化的自动处理,该文提出了一种基于深度强化学习的优化方法.利用长短期记忆(LSTM)网络构建一个智能体(Agent),自动选择机器学习算法模型及对应的超参数组合.该智能体以最大化机器学习模型在验证数据集上的准确率为目标,利用所选择的模型在验证数据集上的准确率作为奖赏值(reward),通过强化学习算法不断学习直到找到最优的模型以及超参数组合.为了验证该方法的可行性及性能,在UCI标准数据集上将其与传统优化方法中基于树状结构Parzen的估计方法和随机搜索方法进行比较.多次实验结果证明该优化方法在稳定性、时间效率、准确度方面均具有优势.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	吴佳	电子科技大学信息与软件工程学院	12	92	4.0	9.0
2	周瑞	电子科技大学信息与软件工程学院	13	164	6.0	12.0
3	陈森朋	电子科技大学信息与软件工程学院	2	1	1.0	1.0
4	陈修云	电子科技大学信息与软件工程学院	2	1	1.0	1.0