基于Vapnik-Chervonenkis泛化界的极限学习机模型复杂性控制

被引:13
作者
刘学艺 [1 ,2 ]
宋春跃 [3 ]
李平 [1 ,3 ]
机构
[1] 浙江大学航空航天学院
[2] 中国计量学院数学系
[3] 浙江大学工业控制研究所
基金
浙江省自然科学基金;
关键词
VC泛化界; 模型复杂性; 极限学习机; 小样本; 实际预测风险;
D O I
暂无
中图分类号
TP18 [人工智能理论];
学科分类号
140502 [人工智能];
摘要
模型复杂性是决定学习机器泛化性能的关键因素,对其进行合理的控制是模型选择的重要原则.极限学习机(extreme learning machine,ELM)作为一种新的机器学习算法,表现出了优越的学习性能.但对于如何在ELM的模型选择过程中合理地度量和控制其模型复杂性这一基本问题,目前尚欠缺系统的研究.本文讨论了基于Vapnik-Chervonenkis(VC)泛化界的ELM模型复杂性控制方法(记作VM),并与其他4种经典模型选择方法进行了系统的比较研究.在人工和实际数据集上的实验表明,与其他4种经典方法相比,VM具有更优的模型选择性能:能选出同时具有最低模型复杂性和最低(或近似最低)实际预测风险的ELM模型.此外,本文也为VC维理论的实际应用价值研究提供了一个新的例证.
引用
收藏
页码:644 / 653
页数:10
相关论文
共 17 条
[1]
多元混沌时间序列的加权极端学习机预测 [J].
韩敏 ;
王新迎 .
控制理论与应用, 2013, 30 (11) :1467-1472
[2]
一种基于Akaike信息准则的极限学习机 [J].
尹建川 ;
邹早建 ;
徐锋 .
山东大学学报(工学版), 2011, 41 (06) :7-11
[3]
极限学习机的快速留一交叉验证算法 [J].
刘学艺 ;
李平 ;
郜传厚 .
上海交通大学学报, 2011, 45 (08) :1140-1145
[4]
神经网络极速学习方法研究 [J].
邓万宇 ;
郑庆华 ;
陈琳 ;
许学斌 .
计算机学报, 2010, 33 (02) :279-287
[5]
统计学习理论.[M].(美)瓦普尼克(VladimirN.Vapnik)著;许建华;张学工译;.电子工业出版社.2004,
[6]
A comparative analysis of support vector machines and extreme learning machines.[J].Xueyi Liu;Chuanhou Gao;Ping Li.Neural Networks.2012,
[7]
TROP-ELM: A double-regularized ELM using LARS and Tikhonov regularization [J].
Miche, Yoan ;
van Heeswijk, Mark ;
Bas, Patrick ;
Simula, Olli ;
Lendasse, Amaury .
NEUROCOMPUTING, 2011, 74 (16) :2413-2421
[8]
A fast pruned-extreme learning machine for classification problem.[J].Hai-Jun Rong;Yew-Soon Ong;Ah-Hwee Tan;Zexuan Zhu.Neurocomputing.2008, 1
[9]
Enhanced random search based incremental extreme learning machine.[J].Guang-Bin Huang;Lei Chen.Neurocomputing.2007, 16
[10]
Convex incremental extreme learning machine.[J].Guang-Bin Huang;Lei Chen.Neurocomputing.2007, 16