面向大样本数据的核化极速神经网络

• 作者: 邓万宇 郑庆华 陈琳
• 来源期刊: 计算机学报
• 学科: 工学
• 关键词: 极速神经网络 随机采样 低秩分解 核方法
• 年，卷（期）: 2014,（11）
• 页码范围: 2235-2246
• 页数: 12页
• 分类号: TP18
• 字数: 8314字
• 语种: 中文
• DOI: 10.3724/SP.J.1016.2014.02235

摘要

核化极速神经网络KELM(Kernel Extreme Learning Machine)将ELM(Extreme Learning Machine)推广到核方法框架下,取得了更好的稳定性和泛化性.但KELM的训练时间O(n2m+n3 +ns)≈O(n3),以样本数n的3次幂急剧膨胀(n为样本数,m为特征维度,s为输出节点个数),不适合处理大样本数据(n≥20 000为基准).为此作者提出一种KELM加速计算框架,并在该框架下结合Nystr(o)m近似低秩分解实现一种快速算法NKELM(Nystr(o)m Kernel Extreme Learning Machine).NKELM的训练时间O(nmL +mL2+L3+nLs)≈O(n),只是n的一次幂(L为隐含层节点数,通常L《n),远远低于KELM的训练时间,适合处理大样本数据.实验表明,NKELM在大样本数据上具有极快的学习速度,同时产生良好的泛化性能.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	郑庆华	西安交通大学电子与信息工程学院	118	1659	22.0	36.0
2	陈琳	西安邮电大学计算机学院	14	303	5.0	14.0
3	邓万宇	西安邮电大学计算机学院	20	92	5.0	8.0