基于支持向量机的多分类方法研究及应用

支持向量机是由Vapnik等人基于统计学习理论提出的一种新型的机器学习方法。支持向量机基于结构风险最小化原理,综合考虑了经验风险和置信风险,具有良好的泛化能力和较高的分类准确率。它集成了最优超平面、核函数、凸二次规划等多项技术,能有效地解决“过学习”、“欠学习”、“维数灾难”和“局部极小点”等问题。支持向量机已经成为当前机器学习界的研究热点,并在很多领域得到了广泛的应用,包括模式识别、回归估计等方面。由于支持向量机方法最初是针对二分类问题提出的,如何将二分类方法扩展到多分类领域是支持向量机研究的一个重要方向。 本文主要做了以下几个方面的工作： 1.对机器学习、统计学习理论以及支持向量机的发展和研究现状做了介绍。同时对支持向量机求解优化问题的过程、核函数、参数选择等问题进行了讨论。 2.在对常用的支持向量机多分类方法分析后,提出了以相对距离作为类别间差异度的衡量标准,综合考虑两个类别之间的绝对距离和他们在空间中分布范围的大小并给出以相对距离来构造基于扩充二叉树结构的支持向量机多分类器的方法,实验表明,该方法在测试时间和分类准确率方面都有良好的表现,是一种有效的支持向量机多分类方法。 3.将新的基于扩充二叉树结构的支持向量机多分类方法在人脸朝向识别中进行了应用。首先对采集到的人脸图像进行预处理,然后提取人眼特征值,最后用基于扩充二叉树结构的支持向量机多分类器对数据进行分类,取得了较好的的识别效果。