支持向量机研究及其在文本分类中的应用

支持向量机在机器学习方面具有良好的泛化能力、直观的几何解释和严格的数学理论基础,是机器学习领域发展很快的工具。文本分类技术是利用计算机技术在预先给定数据类别的情况下,根据数据文本的内容判定文本的类别,也就是为文本指定预先定义的类别标记,以帮助人们在当今互联网时代在大量信息中提取、过滤和管理文本数据。本文将支持向量机的训练算法研究与文本分类相结合,作为本文研究的对象,其主要工作如下： 首先,本文在分析了支持向量机数学原理和相关技术现状的基础上,阐述了目前支持向量机的几种常用的训练方法,并提出了一种改进的支持向量机训练方法NEWSMO。该方法针对支持向量机在训练时缓存使用的不足,在二次逼近的基础上将违反KKT条件程度最厉害的样本提取出来,然后缓存这些样本,作为工作集的选择范围,并且改变了支持向量机的停机条件。该方法提高了核缓存的命中率,减少了工作集选择的代价,从而减少了训练时间。实验表明,该方法能够很好地提高支持向量机的训练速度。 其次,本文在目前文本分类的研究背景和技术现状的基础上,使用基于特征向量的机器学习方法对文本分类进行研究。本文结合了主成分分析的方法和传统的DE-IDF方法作为特征选择方法,以增加特征向量的区分度。减少了SVM分类器学习和预测的类别数量和计算量。 最后,本文将上述改进算法应用到文本分类中。实现了一个文本分类系统原型。通过对搜狗文本分类数据集的实验,证明了改进支持向量机能有效解决文本的自动分类问题。