基于多尺度与注意力特征增强的遥感图像描述生成方法

• 作者: 赵佳琦 王瀚正 周勇 张迪 周子渊
• 来源期刊: 计算机科学
• 学科: 工学
• 关键词: 注意力机制 特征增强 长短期记忆网络 遥感图像描述生成
• 年，卷（期）: 2021,（1）
• 所属期刊栏目: 计算机图形学与多媒体
• 页码范围: 190-196
• 页数: 7页
• 分类号: TP753
• 语种: 中文
• DOI: 10.11896/jsjkx.200600076

摘要

遥感图像描述生成是同时涉及计算机视觉和自然语言处理领域的热门研究话题,其主要工作是对于给定的图像自动地生成一个对该图像的描述语句.文中提出了一种基于多尺度与注意力特征增强的遥感图像描述生成方法,该方法通过软注意力机制实现生成单词与图像特征之间的对齐关系.此外,针对遥感图像分辨率较高、目标尺度变化较大的特点,还提出了一种基于金字塔池化和通道注意力机制的特征提取网络(Pyramid Pool and Channel Attention Network,PCAN),用于捕获遥感图像多尺度以及局部跨通道交互信息.将该模型提取到的图像特征作为描述生成阶段软注意力机制的输入,通过计算得到上下文信息,然后将该上下文信息输入至LSTM网络中,得到最终的输出序列.在RSICD与MSCOCO数据集上对PCAN及软注意力机制进行有效性实验,结果表明,PCAN及软注意力机制的加入能够提升生成语句的质量,实现单词与图像特征之间的对齐.通过对软注意力机制的可视化分析,提高了模型结果的可信度.此外,在语义分割数据集上进行实验,结果表明所提PCAN对于语义分割任务同样具有有效性.