支持向量机(Support Vector Machine,SVM)由Vapnik于20世纪90年代初提出,是基于统计学习理论框架下提出的一种新型模式识别方法。SVM擅长解决样本数量小、低维空间线性不可分类等问题,并且能够应用到函数拟合等其他机器学习中。SVM的分类性能主要取决于核函数以及相关参数的选择上,不合适的参数将导致分类性能降低甚至无法对样本进行分类。
目前关于SVM核函数及其参数的研究越来越多并且逐渐成熟,但还没有形成一个统一的核函数参数选择方法。大多数情况下只能依靠经验或者对比实验来设定参数,这也是SVM在实际应用中的一个理论缺陷。鉴于此,本文主要的研究内容就是SVM核函数参数的优化方法及应用。
本文主要讨论了以下几方面的内容:
首先系统全面地介绍了SVM的基础理论,包括统计学习理论、VC维理论、结构风险最小化原则等。
其次讨论与分析几种常用的SVM核函数参数选择方法,包括网格搜索法、交叉验证法以及当前热门的群智能优化算法各自的优缺点,同时基于以上的论证分析提出一种新的SVM核函数参数优化方法—改进的萤火虫仿生算法。并且通过实验分析本文所提算法在求解精度与运行时间两方面与其他算法相比具有的优势与可行性。
最后将优化过的SVM分类器用于空间手写识别中。通过采集三维加速度传感器的数据并进行预处理与特征提取,最后使用优化的分类器进行分类识别。实验表明,利用本文所提的算法优化SVM分类器在空间手写识别中具有良好的分类性能。