面向小样本约束的域适应分类算法

• 作者: 戴宏 郝轩廷 盛立杰 苗启广
• 来源期刊: 计算机学报
• 学科: 工学
• 关键词: 小样本 域适应 分类 深度学习 迁移学习
• 年，卷（期）: 2022,（5）
• 页码范围: 935-950
• 页数: 16页
• 分类号: TP18
• 语种: 中文
• DOI: 10.11897/SP.J.1016.2022.00935

摘要

近年来,人工智能的相关应用被越来越细化到不同的应用场景,而对不同的应用场景都进行相应的数据收集,模型训练,模型调优等步骤需要消耗大量的时间精力会严重影响人工智能技术应用的效率.因此如何基于现有的成熟的训练过的模型迁移到其他应用场景是当前应用人工智能技术的关键问题.域适应算法主要研究将源域模型有效地迁移到目标域,这为上述问题提供了一个重要的解决思路.本文提出小样本对抗判别域适应算法,相对于无监督域适应算法能够在更严格的约束下-仅需要少量的目标域样本,在标准数据集上取得了优于对抗判别域适应算法(Adversarial Discriminative Domain Adaptation,ADDA)算法的表现,在单任务中最高提升幅度达16.9％.本文中,首先,提出了两种新的数据增强方法,以构建符合双域联合分布的图像以丰富样本多样性并填充特征空间,解决小样本约束下模型易过拟合到少量目标域样本的问题.接着,结合双域样本配对机制和ADDA算法,将以大量目标域样本为条件的无监督域适应算法改进为面向小样本约束的有监督域适应算法.在域适应过程中,引入类标签平滑损失来抑制过拟合现象,并结合度量学习中的最大平均差异度量,提出了新的域适应损失函数.同时,还提出了一种新的域分类判别器网络结构.最后,在对抗判别域适应算法的基础上增加了一个强化阶段,基于混淆矩阵对模型的分类性能进行强化提升.在困难数据集上的实验结果表明,仅使用少于5-shot的目标域样本,经提出的算法域适应训练得到的模型提升了 26.3％～37.2％的分类准确率.