基于贝叶斯新型深度学习超参数优化的研究

• 作者: 刘晓燕 刘瑶 朱汇龙
• 来源期刊: 数据通信
• 学科: 工学
• 关键词: GPflowOpt 高斯过程 贝叶斯 拉丁超立方 超参数优化
• 年，卷（期）: 2019,（2）
• 所属期刊栏目: 技术交流
• 页码范围: 35-38,46
• 页数: 5页
• 分类号: TP391.9
• 字数: 3385字
• 语种: 中文
• DOI: 10.3969/j.issn.1002-5057.2019.02.008

摘要

一种新的贝叶斯优化的Python框架被称为GPflowOpt.这个包是基于流行的GPflow库,主要用于高斯过程,利用了TensorFlow的优点包括自动微分,贝叶斯优化的并行处理和GPU计算.设计目标是关注于一个易于扩展的框架,使用自定义采集功能和模型.这个框架经过了完全的测试和文档化,并且提供了可伸缩性.本文是对贝叶斯优化算法进行改进,有效解决传统贝叶斯优化算法耗时长,性能波动大的缺陷.首先,通过拉丁超立方实验设计方法,生成贝叶斯优化中建立函数模型所需的初始点,提高有效评估点的生成率;其次,通过使用改进的高斯核函数和获取函数提高贝叶斯优化的效果.最后,在计算目标函数时合理选用部分数据,并在计算过程中使用并行计算的方法,加速整个优化过程.建立上述改进贝叶斯优化算法的实例,仿真结果表明该方法优化效率高,优化结果明显改善.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘晓燕	昆明理工大学信息与自动化学院	68	129	6.0	9.0