利用全局与局部帧级特征进行基于共享注意力的视频问答

• 作者: 王雷全 候文艳 袁韶祖 赵欣 林瑶 吴春雷
• 来源期刊: 计算机科学
• 关键词: 视频问答 共享注意力机制 全局和局部帧级特征
• 年，卷（期）: 2021,（8）
• 所属期刊栏目: 计算机图形学&多媒体|Computer Graphics & Multimedia
• 页码范围: 145-149
• 页数: 5页
• 分类号: TP391
• 语种: 中文
• DOI: 10.11896/jsjkx.200800207

摘要

视频问答是视觉理解领域中非常重要且具有挑战性的任务.目前的视觉问答(VQA)方法主要关注单个静态图片的问答,而现实生活中的数据是立体动态的视频.此外,由于问题的复杂性,视频问答任务必须根据问答问题恰当地处理多种视觉特征才能获得高质量的答案.文中提出了一个通过利用局部和全局帧级别的视觉信息来进行视频问答的多共享注意力网络.具体来说,以不同帧率提取视频帧,并以此提取帧级的全局与局部视觉特征,这两种特征包含了多个帧级别特征,用于对视频时间动态建模,再以共享注意力的形式建模全局与局部视觉特征的相关性,然后结合文本问题来推断答案.在天池视频问答数据集上进行了大量的实验,验证了所提方法的有效性.