支持向量回归算法及应用研究

近些年来，支持向量机(Support Vector Machine，SVM)作为机器学习数据挖掘的一种新方法，在理论研究和实际应用上都有了飞速的发展，支持向量机以其自身算法的优点以及实现的可行性可以成功地处理回归问题(时间序列分析)和模式识别(分类问题、判别分析)等诸多问题，并可推广于预测和综合评价等领域。 SVM方法最早是针对模式识别问题提出来的，但近些年随着ε不敏感损失函数的引入，SVM方法已经推广到了非线性系统的回归估计，并展现出了很好的学习性能。SVM已成为处理回归问题的最佳方法之一。 序列最小优化算法(Sequential Minimal Optimization，SMO)的提出有效的解决了支持向量机方法实现复杂、效率低等问题。特别在处理大数据量的实际问题时体现出了较好的精度和运算效率。目前SMO算法已经成为支持向量机方法处理大数据量实际问题的主流算法。 本文将对支持向量回归(Support Vector Regression，SVR)的SMO算法做出详细介绍，并针对参数选取问题提出一种改进算法。全文共分为五章：第一章简要论述SVM理论及算法的发展和研究现状以及本文所要解决的问题；第二章从线性SVM和非线性SVM两种情况阐述支持向量分类、回归理论；第三章介绍原始SMO算法；第四章针对SVR过程中参数选择问题提出改进的SMO算法，通过数值实验证明改进算法的可行性，与已知方法比较说明改进算法的有效性。在最后一章运用改进算法解决物流配送中心选址决策以及胎儿体重预测问题，并借此给出利用自动选取参数的支持向量回归方法解决实际问题的策略。