基于 LAD-Elastic Net 的模型选择

• 作者: 张凌洁 张海 苏美红
• 来源期刊: 南京大学学报（自然科学版）
• 学科: 数学
• 关键词: 稀疏性 模型选择 一致性 稳健性
• 年，卷（期）: 2015,（4）
• 页码范围: 894-900
• 页数: 7页
• 分类号: O212.1
• 字数: 3855字
• 语种: 中文
• DOI: 10.13232/j.cnki.jnju.2015.04.027

摘要

高维、海量数据分析是机器学习以及统计学研究热点,而数据之间的高相关性以及噪声的重尾分布是经典机器学习算法失效的主要原因。基于此,提出了 LAD-Elastic Net 模型,并进一步研究了其模型选择一致性的问题。该模型所选用的损失函数为绝对值损失,相比于平方损失函数,其受噪声影响比较小,具有稳健性。所选用的罚函数为 l 1罚和 l 2罚的组合,从而可以很好地解决变量之间相关性问题。首先简要回顾了模型选择方向的研究进展；其次,给出了所要研究的 LAD-Elastic Net 模型；最后通过近似逼近的方法,将绝对值损失用平方函数来近似逼近,进一步从理论上证明了其模型选择一致性。结果表明,不可表示条件起到了关键的作用,在其成立的前提下,LAD-Elastic Net 所选出的模型是一致的。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	张海	西北大学数学学院	42	143	6.0	9.0
2	苏美红		3	8	2.0	2.0
4	张凌洁		7	7	2.0	2.0