利用标注者相关性的深度生成式众包学习

• 作者: 李绍园 韦梦龙 黄圣君
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 众包学习 深度生成式模型 标注者相关性 贝叶斯 自然梯度随机变分推断
• 年，卷（期）: 2022,（4）
• 所属期刊栏目: 面向开放场景的鲁棒机器学习专刊|SPECIAL ISSUE ON ROBUST MACHINE LEARNING IN THE OPEN-WORLD SCENARIOS
• 页码范围: 1274-1286
• 页数: 13页
• 分类号: TP18
• 语种: 中文
• DOI: 10.13328/j.cnki.jos.006479

摘要

传统监督学习需要训练样本的真实标记信息,而在很多情况下,真实标记并不容易收集.与之对比,众包学习从多个可能犯错的非专家收集标注,通过某种融合方式估计样本的真实标记.注意到现有深度众包学习工作对标注者相关性建模不足,而非深度众包学习方面的工作表明,标注者相关性建模利用有助于改善学习效果.提出一种深度生成式众包学习方法,以结合深度神经网络优势及利用标注者相关性.该模型由深度神经网络分类器先验和标注生成过程组成,其中,标注生成过程通过引入各类别内标注者能力的混合模型以建模标注者相关性.为自适应地匹配数据及模型复杂度,实现了完全贝叶斯推断.基于结构变分自编码器的自然梯度随机变分推断技术,将共轭参数变分消息传递与神经网络参数随机梯度下降结合到统一框架,实现端到端的高效优化.在22个真实众包数据集上的实验结果验证了该方法的有效性.