支持向量机与最小二乘法的关系研究

• 作者: 张学工 李衍达 阎辉
• 来源期刊: 清华大学学报(自然科学版)
• 学科: 工学
• 关键词: 支持向量机 最优分类面 最小二乘估计 最小范数解
• 年，卷（期）: 2001,（9）
• 所属期刊栏目: 自动化
• 页码范围: 77-80
• 页数: 4页
• 分类号: TP18
• 字数: 3923字
• 语种: 中文
• DOI: 10.3321/j.issn:1000-0054.2001.09.021

摘要

研究了支持向量机(SVM)在二次损失函数下的优化问题解的形式,并与普通的最小二乘(LS)估计问题进行了比较,得到了几乎完全一致的优化问题形式.由于SVM在二次损失函数下的优化问题对应于一个欠定问题,该问题在最小二乘估计中有最小范数解.如果SVM的参数选择合适,从理论上可以证明采用二次损失函数的SVM函数拟合问题实际为约束最小二乘估计问题,并且该问题的解对应于最小范数最小二乘解.由于最小化范数解实际是SVM在取某些参数时的一个特例,如果能够自动调整这些参数,则得到一类最小化范数解.由此提出了采用SVM解决最小二乘法问题的思想,由于SVM的优点,使解更加符合实际情况.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	李衍达	清华大学自动化系	96	3275	26.0	56.0
2	阎辉	清华大学自动化系	5	292	4.0	5.0
3	张学工	清华大学自动化系	34	1248	17.0	34.0