动态粒度支持向量回归机

被引：17

作者：

郭虎升 ^{[1
]}

王文剑 ^{[1
,2
]}

机构：

[1] 山西大学计算机与信息技术学院

[2] 计算智能与中文信息处理教育部重点实验室(山西大学)

来源：

软件学报 | 2013年 / 24卷 / 11期

关键词：

支持向量回归; 动态粒度支持向量回归; 动态粒划; 信息粒; 半径; 密度;

D O I：

暂无

中图分类号：

TP181 [自动推理、机器学习];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

粒度支持向量机(granular support vector machine,简称GSVM)可以有效提高支持向量机(support vector machine,简称SVM)的学习效率,但由于经典GSVM通常将粒用个别样本替代,且粒划和学习在不同空间进行,因而不可避免地改变了原始数据分布,从而可能导致泛化能力降低.针对这一问题,通过引入动态层次粒划的方法,设计了动态粒度支持向量回归(dynamical granular support vector regression,简称DGSVR)模型.该方法首先将训练样本映射到高维空间,使得在低维样本空间无法直接得到的分布信息显示出来,并在该特征空间中进行初始粒划.然后,通过衡量样本粒与当前回归超平面的距离,找到含有较多回归信息的粒,并通过计算其半径和密度进行深层次的动态粒划.如此循环迭代,直到没有信息粒需要进行深层粒划时为止.最后,通过动态粒划过程得到的不同层次的粒进行回归训练,在有效压缩训练集的同时,尽可能地使含有重要信息的样本在最终训练集中保留下来.在基准函数数据集及UCI上的回归数据集上的实验结果表明,DGSVR方法能够以较快的速度完成动态粒划的过程并收敛,在保持较高训练效率的同时可有效提高传统粒度支持向量回归机(granular support vector regression machine,简称GSVR)的泛化性能.

引用

页码：2535 / 2547

页数：13

共 14 条

[1] Granular support vector machine based on mixed measure [J].

Wang Wenjian ;

Guo Husheng ;

Jia Yuanfeng ;

Bi Jingye .

NEUROCOMPUTING, 2013, 101 :116-128

[2]

A fast quasi-Newton method for semi-supervised SVM.[J].I. Sathish Reddy;Shirish Shevade;M.N. Murty.Pattern Recognition.2010, 10

[3]

Choosing the kernel parameters for support vector machines by the inter-cluster distance in the feature space.[J].Kuo-Ping Wu;Sheng-De Wang.Pattern Recognition.2008, 5

[4]

An algorithm to cluster data for efficient classification of support vector machines.[J].Der-Chiang Li;Yao-Hwei Fang.Expert Systems With Applications.2007, 3

[5]

Clustering support vector machines for protein local structure prediction.[J].Wei Zhong;Jieyue He;Robert Harrison;Phang C. Tai;Yi Pan.Expert Systems With Applications.2006, 2

[6]

A meta-learning approach to automatic kernel selection for support vector machines.[J].Shawkat Ali;Kate A. Smith-Miles.Neurocomputing.2006, 1

[7]

An improved incremental training algorithm for support vector machines using active query.[J].Shouxian Cheng;Frank Y. Shih.Pattern Recognition.2006, 3

[8] An efficient clustering scheme using support vector methods [J].

Nath, J. Saketha ;

Shevade, S. K. .

PATTERN RECOGNITION, 2006, 39 (08) :1473-1480

[9]

Hierarchically SVM classification based on support vector clustering method and its application to document categorization.[J].Pei-Yi Hao;Jung-Hsien Chiang;Yi-Kun Tu.Expert Systems With Applications.2006, 3

[10]

Granular support vector machines with association rules mining for protein homology prediction.[J].Yuchun Tang;Bo Jin;Yan-Qing Zhang.Artificial Intelligence In Medicine.2005, 1

← 1 2 →