支持向量机集成及在遥感分类中的应用

被引:0
作者
何灵敏
机构
[1] 浙江大学
关键词
支持向量机; 分类; 分类器选择; 动态集成; 遗传算法; 遥感; 马尔可夫随机场;
D O I
暂无
年度学位
2006
学位类型
博士
导师
摘要
自Vapnik于1995年提出支持向量机(Support Vector Machines,SVM)后,支持向量机已经在很多领域得到了成功的应用。然而支持向量机也存在着几个缺点:首先,用于解优化问题的逼近算法会影响泛化能力;其次,核函数和分类参数(包括惩罚系数C,核函数参数)的选择没有特别好的办法,应用时不容易找到最优的核函数和分类参数;最后,两类支持向量机扩展到多类时会导致性能下降。集成技术是现在机器学习的热点之一,以神经网络、决策树等为基本分类器的集成研究已经取得了很大的进展,而基于支持向量机的集成技术研究相对起步较晚,研究较少。本文研究了多类支持向量机集成,同时,尝试把支持向量机集成应用于遥感分类的研究。本文所取得的创新性研究成果主要有: 1.比起神经网络、决策树等学习算法,支持向量机是相对稳定的分类器,利用常用的集成算法Bagging和Boosting对SVM进行集成并不能有效地提高分类效果,本文提出了同时扰动训练集和SVM分类模型参数的RBaggSVM和RBoostSVM算法,算法的特点是在一定的范围内随机选取SVM的模型参数,以获得有差异的成员分类器。 2.把寻找部分分类器参与集成以取得最佳效果看作是优化问题,遗传算法对优化问题具有全局寻优能力,本文提出了基于遗传算法的GARBaggSVM和GARBoostSVM分类器选择算法。尝试应用遗传算法对SVM集成的合成权重进行优化,然后选择最优的部分成员SVM参与集成来提高分类精度。 3.提出一种基于局部精度的动态集成算法DERBaggSVM和DERBoostSVM,根据待分类测试样本在其周围邻近空间的局部精度来选择一部分成员分类器参与集成,经投票或加权投票得到分类结果。 4.尝试将多类支持向量机、支持向量机集成应用到多源遥感分类中,并与最大似然法、神经网络和神经网络集成技术进行比较,显示了支持
引用
收藏
页数:120
共 22 条
[1]
神经网络集成技术及其在土壤学中应用的研究 [D]. 
沈掌泉 .
浙江大学,
2005
[2]
基于支持向量机集成的故障诊断 [J].
李烨 ;
蔡云泽 ;
许晓鸣 .
控制工程, 2005, (S2)
[3]
基于Bagging支持向量机集成的入侵检测研究 [J].
谷雨 ;
郑锦辉 ;
戴明伟 ;
何磊 .
微电子学与计算机, 2005, (05) :17-19
[4]
基于Bagging的选择性聚类集成 [J].
唐伟 ;
周志华 .
软件学报, 2005, (04) :496-502
[5]
神经网络集成与支持向量机在多值分类问题上的比较研究 [J].
孔安生 ;
王洪澄 ;
李国正 ;
不详 .
计算机工程与应用 , 2005, (01) :46-47+119
[6]
基于支持向量机与极端保守在线算法相结合的多类分类器 [J].
董云杰 ;
邱熔胜 .
模式识别与人工智能, 2003, 16 (04) :476-481
[7]
基于全信息矩阵的多分类器集成方法 [J].
唐春生 ;
金以慧 .
软件学报, 2003, (06) :1103-1109
[8]
支持向量机的训练算法 [J].
李建民 ;
张钹 ;
林福宗 .
清华大学学报(自然科学版), 2003, (01) :120-124
[9]
多源地学信息在土地荒漠化遥感分类中的应用研究 [J].
杜明义 ;
武文波 ;
郭达志 .
中国图象图形学报, 2002, (07)
[10]
一种基于Dempster-Shafer理论的分类器组合算法 [J].
李玉榕 ;
陆向成 ;
杨富文 .
福州大学学报(自然科学版), 2002, (03) :310-315