L1+L2正则化逻辑斯蒂模型分类算法

• 作者: 付捷 刘建伟 罗雄麟
• 来源期刊: 计算机工程
• 学科: 工学
• 关键词: L1范数 L2范数 共轭梯度 特征选择 正则化 逻辑斯蒂模型
• 年，卷（期）: 2012,（13）
• 所属期刊栏目: 人工智能及识别技术
• 页码范围: 148-151
• 分类号: TP18
• 字数: 4522字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-3428.2012.13.044

摘要

提出一种L1+L2范数正则化逻辑斯蒂模型分类算法.该算法引入L2范数正则化,解决L1正则化逻辑斯蒂算法迭代过程奇异问题,通过引入样本向量的扩展和新的权值向量完成L1范数非平滑问题,最终使用共轭梯度方法求解经过转化的最优化问题.在各种实际数据集上的实验结果表明,该算法优于L2范数、L1范数和Lp范数正则化逻辑斯蒂模型,具有较好的特征选择和分类性能.