支持向量机与最小二乘法的关系研究

被引:61
作者
阎辉
张学工
李衍达
机构
[1] 清华大学自动化系!智能技术与系统国家重点实验室
[2] 北京
关键词
支持向量机; 最优分类面; 最小二乘估计; 最小范数解;
D O I
10.16511/j.cnki.qhdxxb.2001.09.020
中图分类号
TP18 [人工智能理论];
学科分类号
081104 ; 0812 ; 0835 ; 1405 ;
摘要
研究了支持向量机 (SVM)在二次损失函数下的优化问题解的形式 ,并与普通的最小二乘 (L S)估计问题进行了比较 ,得到了几乎完全一致的优化问题形式。由于 SVM在二次损失函数下的优化问题对应于一个欠定问题 ,该问题在最小二乘估计中有最小范数解。如果 SVM的参数选择合适 ,从理论上可以证明采用二次损失函数的 SVM函数拟合问题实际为约束最小二乘估计问题 ,并且该问题的解对应于最小范数最小二乘解。由于最小化范数解实际是 SVM在取某些参数时的一个特例 ,如果能够自动调整这些参数 ,则得到一类最小化范数解。由此提出了采用 SVM解决最小二乘法问题的思想 ,由于 SVM的优点 ,使解更加符合实际情况
引用
收藏
页码:77 / 80
页数:4
相关论文
empty
未找到相关数据