基于Kaiser窗的受限玻尔兹曼机自适应学习率调整算法研究

• 作者: 李靖林
• 来源期刊: 数码设计（下）
• 关键词: 受限玻尔兹曼机 Kaiser窗 学习率自适应
• 年，卷（期）: 2021,（6）
• 所属期刊栏目: 教育综合论坛
• 页码范围: 254
• 页数: 1页
• 分类号: TP18
• 语种: 中文

摘要

受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)在训练过程中,存在计算复杂度高、模型对训练数据的似然度不够高等问题,导致深度学习模型训练时间较长.本文针对受限玻尔兹曼机训练时传统学习率的收敛速度慢的问题,提出一种基于Kaiser窗的受限玻尔兹曼机自适应学习率调整算法,利用Kaiser窗可以自由选择主瓣宽度和旁瓣高度之间比重的特性以及训练过程中误差增量的变化给出学习率自适应变化公式,并设置误差控制因子和惯性因子,从而更有效地自适应调整学习率.