一种高效的最小二乘支持向量机分类器剪枝算法

被引:4
作者
杨晓伟 [1 ]
路节 [2 ]
张广全 [2 ]
机构
[1] 华南理工大学数学科学学院
[2] 悉尼科技大学信息技术学院
基金
广东省自然科学基金;
关键词
最小二乘支持向量机; 剪枝; 块增量学习; 逆学习; 自适应;
D O I
暂无
中图分类号
TP301.6 [算法理论];
学科分类号
081202 ;
摘要
针对最小二乘支持向量机丧失稀疏性的问题,提出了一种高效的剪枝算法.为了避免解初始的线性代数方程组,采用了一种自下而上的策略.在训练的过程中,根据一些特定的剪枝条件,块增量学习和逆学习交替进行,一个小的支持向量集能够自动形成.使用此集合,可以构造最终的分类器.为了测试新算法的有效性,把它应用于5个UCI数据集.实验结果表明:使用新的剪枝算法,当增量块的大小等于2时,在几乎不损失精度的情况下,可以得到稀疏解.另外,和SMO算法相比,新算法的速度更快.新的算法不仅适用于最小二乘支持向量机分类器,也可向最小二乘支持向量回归机推广.
引用
收藏
页码:1128 / 1136
页数:9
相关论文
共 5 条
[1]   多拉格朗日乘子协同优化的SVM快速学习算法研究 [J].
业宁 ;
孙瑞祥 ;
董逸生 .
计算机研究与发展, 2006, (03) :442-448
[2]   最小二乘隐空间支持向量机 [J].
王玲 ;
薄列峰 ;
刘芳 ;
焦李成 .
计算机学报, 2005, (08) :1302-1307
[3]   一种快速支持向量机分类算法的研究 [J].
刘向东 ;
陈兆乾 .
计算机研究与发展, 2004, (08) :1327-1332
[4]   Benchmarking least squares support vector machine classifiers [J].
van Gestel, T ;
Suykens, JAK ;
Baesens, B ;
Viaene, S ;
Vanthienen, J ;
Dedene, G ;
de Moor, B ;
Vandewalle, J .
MACHINE LEARNING, 2004, 54 (01) :5-32
[5]   Least squares support vector machine classifiers [J].
Suykens, JAK ;
Vandewalle, J .
NEURAL PROCESSING LETTERS, 1999, 9 (03) :293-300