基于主动学习的最小二乘支持向量机稀疏化

被引:9
作者
余正涛 [1 ,2 ]
邹俊杰 [1 ,2 ]
赵兴 [1 ,2 ]
苏磊 [1 ,2 ]
毛存礼 [1 ,2 ]
机构
[1] 昆明理工大学信息工程与自动化学院
[2] 昆明理工大学智能信息处理重点实验室
关键词
最小二乘支持向量机; 稀疏化; 主动学习; 分类;
D O I
10.14177/j.cnki.32-1397n.2012.01.010
中图分类号
TP181 [自动推理、机器学习];
学科分类号
摘要
针对最小二乘支持向量机(LSSVM)稀疏化问题,提出一种基于主动学习的LSSVM数据稀疏化学习算法。首先基于核聚类的方法选取初始样本,并利用LSSVM构建一个最小分类器,然后计算样本在分类器作用下的分布,选择最接近分类面的样本进行标记,最后将该标记样本加入训练集建立新的分类器,重复上述过程直到模型精度满足要求,以此建立部分样本的LSSVM稀疏化模型。利用加利福尼亚大学欧文分校(UCI)提供的6种数据集进行实验,结果表明,提出的方法使LSSVM的稀疏性提高了46%以上,减少了标注样本带来的成本。
引用
收藏
页码:12 / 17
页数:6
相关论文
共 21 条
  • [1] Selective Sampling Using the Query by Committee Algorithm[J] . Yoav Freund,H. Sebastian Seung,Eli Shamir,Naftali Tishby. &nbspMachine Learning . 1997 (2)
  • [2] Fast SVM trainingalgorithm with decomposition on very large data sets. Dong Jiaxiong,Krzyzak A,Suen C Y. IEEE Transactions on Pattern Analysis and Machine In-telligence . 2005
  • [3] University of California Irvine. http://archive.ics.uci.edu/ml/index.html . 2011
  • [4] Supportvector machine for classification based on fuzzy trainingdata. Ji Aibing,Pang Jiahong,Li Shuhuan,Sun Jianpin. International Conference on Machine Learningand Cybernetics . 2006
  • [5] A com-parison of pruning algorithms for sparse least squaressupport vector machines. Hoegaerts L,Suykens J A K,Vandewallej,et al. Proceedings of the 11thInternational Conference on Neural InformationProcessing . 2004
  • [6] Fast supportvector machine training and classification on graphicsprocessors. Catanzaro B C,Sundaram N,Keutzer K. International Conference on MachineLearning . 2008
  • [7] Weighted least squares support vector machines: robustness and sparse approximation. Suykens JAK,De Brabanter J,Lukas L,et al. Neurocomputing . 2002
  • [8] Statistical active learning in multilayer perceptrons. K. Fukumizu. IEEE Transactions on Neural Networks . 2000
  • [9] Making large-Scale SVM Learning Practical. Joachims T. Advances in Kernel Methods-Support Vector Learning . 1999
  • [10] Kris D B. http://www.esat.kuleuven.be/sista/lssvmlab . 2011