基于联邦学习的无线任务:数据非IID一定影响性能?

• 作者: 董少鹏 杨晨阳 刘婷婷
• 来源期刊: 信号处理
• 关键词: 联邦学习 数据集非独立同分布 平均信道增益 解调 损失函数可视化
• 年，卷（期）: 2021,（8）
• 所属期刊栏目: 论文|Papers
• 页码范围: 1365-1377
• 页数: 13页
• 分类号: TN929.53
• 语种: 中文
• DOI: 10.16798/j.issn.1003-0530.2021.08.003

摘要

作为一种分布式训练框架,联邦学习在无线通信领域有着广阔的应用前景,也面临着多方面的技术挑战,其中之一源于参与训练用户数据集的非独立同分布(Independent and identically distributed,IID).不少文献提出了解决方法,以减轻户数据集非IID造成的联邦学习性能损失.本文以平均信道增益预测、正交幅度调制信号的解调这两个无线任务以及两个图像分类任务为例,分析用户数据集非IID对联邦学习性能的影响,通过神经网络损失函数的可视化和对模型参数的偏移量进行分析,尝试解释非IID数据集对不同任务影响程度不同的原因.分析结果表明,用户数据集非IID未必导致联邦学习性能的下降.在不同数据集上通过联邦平均算法训练得到的模型参数偏移程度和损失函数形状有很大的差异,二者共同导致了不同任务受数据非IID影响程度的不同;在同一个回归问题中,数据集非IID是否影响联邦学习的性能与引起数据非IID的具体因素有关.