分布式在线条件梯度优化算法

• 作者: 周跃进 李德权 董翘
• 来源期刊: 计算机科学
• 学科: 工学
• 关键词: 条件梯度 无投影 分布式网络 在线学习 Regret界
• 年，卷（期）: 2019,（3）
• 所属期刊栏目: 交叉与前沿
• 页码范围: 332-337
• 页数: 6页
• 分类号: TP301.6
• 字数: 7296字
• 语种: 中文
• DOI: 10.11896/j.issn.1002-137X.2019.03.049

摘要

针对现有分布式在线优化算法所面临的高维约束难以计算的问题,提出一种分布式在线条件梯度优化算法(Distributed Online Conditional Gradient Optimization Algorithm,DOCG).首先,通过多个体网络节点间的相互协作进行数据采集,并通过共享采集的信息更新局部估计,同时引入反映环境变化的局部即时损失函数.然后,该算法利用历史梯度信息进行加权平均,提出一种新的梯度估计方案,其用线性优化步骤替代投影步骤,避免了投影运算在高维约束时难以计算的问题.最后,通过分析表征在线估计性能的Regret界,证明了所提DOCG算法的收敛性.利用低秩矩阵填充问题进行仿真验证,结果表明,相比于现有分布式在线梯度下降法(DOGD),所提DOCG算法具有更快的收敛速度.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	周跃进	安徽理工大学数学与大数据学院	19	9	2.0	2.0
2	李德权	安徽理工大学数学与大数据学院	44	111	6.0	9.0
3	董翘	安徽理工大学数学与大数据学院	1	0	0.0	0.0