一种求解强凸优化问题的最优随机算法

• 作者: 周柏 姜纪远 邵言剑 陶卿
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 机器学习 随机优化 强凸问题 混合正则化项 COMID (composite objective mirror descent)
• 年，卷（期）: 2014,（9）
• 所属期刊栏目: 大数据分析专刊
• 页码范围: 2160-2171
• 页数: 12页
• 分类号: TP301
• 字数: 8000字
• 语种: 中文

摘要

随机梯度下降(SGD)算法是处理大规模数据的有效方法之一。黑箱方法SGD在强凸条件下能达到最优的O(1/T)收敛速率，但对于求解L1+L2正则化学习问题的结构优化算法，如COMID(composite objective mirror descent)仅具有O(lnT/T)的收敛速率。提出一种能够保证稀疏性基于COMID的加权算法，证明了其不仅具有O(1/T)的收敛速率，还具有on-the-fly计算的优点，从而减少了计算代价。实验结果表明了理论分析的正确性和所提算法的有效性。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	陶卿	中国人民解放军陆军军官学院十一系	29	495	8.0	22.0
2	邵言剑	中国人民解放军陆军军官学院十一系	3	17	2.0	3.0
3	周柏	中国人民解放军陆军军官学院十一系	2	12	1.0	2.0
4	姜纪远	中国人民解放军陆军军官学院十一系	4	17	2.0	4.0