基于注意力机制的CNN-LSTM模型及其应用

• 作者: 宁德军 李梅 郭佳程
• 来源期刊: 计算机工程与应用
• 学科: 工学
• 关键词: 注意力机制 卷积神经网络(CNN) 长短期记忆网络(LSTM) 时间序列 负荷预测
• 年，卷（期）: 2019,（13）
• 所属期刊栏目: 热点与综述
• 页码范围: 20-27
• 页数: 8页
• 分类号: TP391|TK01
• 字数: 6854字
• 语种: 中文
• DOI: 10.3778/j.issn.1002-8331.1901-0246

摘要

时序数据存在时序性,并且其短序列的特征存在重要程度差异性.针对时序数据特征,提出一种基于注意力机制的卷积神经网络(CNN)联合长短期记忆网络(LSTM)的神经网络预测模型,融合粗细粒度特征实现准确的时间序列预测.该模型由两部分构成:基于注意力机制的CNN,在标准CNN网络上增加注意力分支,以抽取重要细粒度特征;后端为LSTM,由细粒度特征抽取潜藏时序规律的粗粒度特征.在真实的热电联产供热数据上的实验表明,该模型比差分整合移动平均自回归、支持向量回归、CNN以及LSTM模型的预测效果更好,对比目前企业将预定量作为预测量的方法,预测缩放误差平均值(MASE)与均方根误差(RMSE)指标分别提升了89.64%和61.73%.