一种非光滑强凸函数的随机次梯度镜面下降算法

• 作者: 周倩 王鑫 罗贤兵
• 来源期刊: 理论数学
• 学科: 数学
• 关键词: 镜面下降法 非光滑损失凸优化 随机次梯度镜面下降法 迭代加权平均
• 年，卷（期）: 2018,（3）
• 页码范围: 221-229
• 页数: 9页
• 分类号: O1

摘要

镜面下降法(MD)在机器学习问题中已有些实际应用,针对大规模数据的处理和非光滑损失凸优化问题,本文将迭代平均与随机次梯度镜面下降方法相结合,得到了一种改进的方法,通过对问题域的特殊处理,利用它们的结构,提出一种加权平均的随机次梯度镜面下降算法。在这个加权平均过程中,平均迭代不用于构造算法,而是作为算法的副产品出现,其中平均权重由算法使用的步长确定。该算法有很好的收敛性。对于强凸函数,我们证明了该算法的最佳收敛速度达到? ?? ?? ?o 1k。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	王鑫	贵州大学数学与统计学院	16	36	3.0	5.0
2	周倩	贵州大学数学与统计学院	8	0	0.0	0.0
3	罗贤兵	贵州大学数学与统计学院	13	1	1.0	1.0