使用Nesterov步长策略投影次梯度方法的个体收敛性

• 作者: 储德军 潘志松 陶卿 陶蔚
• 来源期刊: 计算机学报
• 学科: 工学
• 关键词: 机器学习 非光滑损失函数问题 投影次梯度方法 Nesterov步长策略 个体收敛速率 稀疏学习
• 年，卷（期）: 2018,（1）
• 所属期刊栏目: 人工智能
• 页码范围: 164-176
• 页数: 13页
• 分类号: TP18
• 字数: 7830字
• 语种: 中文
• DOI: 10.11897/SP.J.1016.2018.00164

摘要

很多机器学习问题都可以最终转换为优化问题来进行求解,凸优化算法已经被成功用于各种机器学习优化问题中,而在优化算法的研究中是否能获得最优的收敛速率是一个最基本问题.此外,稀疏性是稀疏学习问题中关注的另一个目标.目前,人们已经提出了大量的随机优化方法求解大规模机器学习优化问题,但大部分的研究只是针对平均输出方式获得了最优收敛速率.个体输出方式显然比平均方式的输出具有更好的稀疏性,但使个体收敛速率获得最优具有一定的难度,人们已经将强凸情形下的最优个体收敛性作为公开问题进行广泛研究.对于光滑目标函数的优化问题,著名学者Nesterov提出了一种步长策略,使得梯度方法的收敛速率获得了数量级形式的加速,并且获得了最优的个体收敛速率.目前,Nesterov加速算法已经应用于各种具有光滑损失函数机器学习优化问题中,研究者基于该加速策略提出了大量的随机优化算法.能否将这种技巧推广至非光滑情形获得最优的个体收敛速率显然是有意义的问题.文中考虑在非光滑优化算法中引入这种步长策略.特别地,我们聚焦经典的一阶梯度方法,提出了一种嵌入加速算法步长策略的投影次梯度算法,证明了这种算法在求解非光滑损失函数学习问题时具有最优的个体收敛速率.这是比标准投影次梯度方法只有在平均输出方式下才具有最优收敛速率更强的结论,也是一阶梯度方法在个体最优收敛速率方面比较接近于大家期待的研究成果.与平均方式输出以及线性插值的投影次梯度方法相比,该文所提方法的梯度运算在插值策略之后,因此在求解l1范数约束的hinge损失函数学习问题时具有更好的稀疏性.人工数据集上的实验验证了所提方法的正确性,基准数据集上验证了该方法在保持稀疏性方面具有良好的性能.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	陶卿	中国人民解放军陆军炮兵防空兵学院十一系	29	495	8.0	22.0
2	潘志松	中国人民解放军陆军工程大学指挥信息系统学院	13	32	4.0	5.0
3	储德军	中国人民解放军陆军炮兵防空兵学院十一系	6	14	3.0	3.0
4	陶蔚	中国人民解放军陆军工程大学指挥信息系统学院	6	15	2.0	3.0