时序特征融合的视频实例分割

• 作者: 黄泽涛 刘洋 于成龙 张加佳 王轩 漆舒汉
• 来源期刊: 中国图象图形学报
• 关键词: 计算机视觉 实例分割 视频实例分割 缩放点积注意力 多尺度融合
• 年，卷（期）: 2021,（7）
• 所属期刊栏目: 图像理解和计算机视觉|Image Understanding and Computer Vision
• 页码范围: 1692-1703
• 页数: 12页
• 分类号: TP391
• 语种: 中文

摘要

目的 随着移动互联网和人工智能的蓬勃发展,海量的视频数据不断产生,如何对这些视频数据进行处理分析是研究人员面临的一个挑战性问题.视频中的物体由于拍摄角度、快速运动和部分遮挡等原因常常表现得模糊和多样,与普通图像数据集的质量存在不小差距,这使得对视频数据的实例分割难度较大.目前的视频实例分割框架大多依靠图像检测方法直接处理单帧图像,通过关联匹配组成同一目标的掩膜序列,缺少对视频困难场景的特定处理,忽略对视频时序信息的利用.方法 本文设计了一种基于时序特征融合的多任务学习视频实例分割模型.针对普通视频图像质量较差的问题,本模型结合特征金字塔和缩放点积注意力机制,在时间上把其他帧检测到的目标特征加权聚合到当前图像特征上,强化了候选目标的特征响应,抑制背景信息,然后通过融合多尺度特征丰富了图像的空间语义信息.同时,在分割网络模块增加点预测网络,提升了分割准确度,通过多任务学习的方式实现端到端的视频物体同时检测、分割和关联跟踪.结果 在YouTube-VIS验证集上的实验表明,与现有方法比较,本文方法在视频实例分割任务上平均精度均值提高了 2％左右.对比实验结果证明提出的时序特征融合模块改善了视频分割的效果.结论 针对当前视频实例分割工作存在的忽略对视频时序上下文信息的利用,缺少对视频困难场景进行处理的问题,本文提出融合时序特征的多任务学习视频实例分割模型,提升对视频中物体的分割效果.