极限学习机的快速留一交叉验证算法

被引：68

作者：

刘学艺 ^{[1
]}

李平 ^{[1
,2
]}

郜传厚 ^{[3
]}

机构：

[1] 浙江大学航空航天学院

[2] 浙江大学工业控制研究所

[3] 浙江大学数学系

来源：

上海交通大学学报 | 2011年 / 45卷 / 08期

关键词：

极限学习机; 留一法; 交叉验证; 计算复杂性;

D O I：

10.16183/j.cnki.jsjtu.2011.08.009

中图分类号：

TP18 [人工智能理论]; O234 [学习机理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

针对回归和分类问题,提出一种极限学习机(Extreme Learning Machine,ELM)的快速留一交叉验证算法,并从理论和数值仿真两方面说明其有效性.结果表明,该算法避免了以训练样本数量N次的ELM模型的显式训练,其计算复杂度与N仅呈线性趋势增长,即O(N).即使在处理大型数据集建模问题时,该算法仍然可以快速地进行ELM模型的选择和评价.通过人工和实际数据集上的仿真实验,验证了该快速留一交叉验证算法的有效性.

引用

页码：1140 / 1145

页数：6

共 8 条

[1] 神经网络极速学习方法研究 [J].

邓万宇 ;

郑庆华 ;

陈琳 ;

许学斌 .

计算机学报, 2010, 33 (02) :279-287

[2] 基于正交试验和Vogl快速BP网络的球面磨削工艺优化方法 [J].

许开州 ;

胡德金 ;

魏臣隽 .

上海交通大学学报, 2009, 43 (12) :1956-1961

[3]

数据驱动系统方法概述(英文)[J]. 许建新,侯忠生.自动化学报. 2009(06)

[4] Multicategory classification using an Extreme Learning Machine for Microarray gene expression cancer diagnosis [J].

Zhang, Runxuan ;

Huang, Guang-Bin ;

Sundararajan, Narasimhan ;

Saratchandran, P. .

IEEE-ACM TRANSACTIONS ON COMPUTATIONAL BIOLOGY AND BIOINFORMATICS, 2007, 4 (03) :485-495

[5]

Extreme learning machine: Theory and applications[J] . Guang-Bin Huang,Qin-Yu Zhu,Chee-Kheong Siew.Neurocomputing . 2006 (1)

[6] Fast exact leave-one-out cross-validation of sparse least-squares support vector machines [J].

Cawley, GC ;

Talbot, NLC .

NEURAL NETWORKS, 2004, 17 (10) :1467-1475

[7] Efficient leave-one-out cross-validation of kernel Fisher discriminant classifiers [J].

Cawley, GC ;

Talbot, NLC .

PATTERN RECOGNITION, 2003, 36 (11) :2585-2592

[8]

Fast leave-one-out evaluationand improvement on inference for LS-SVMs .2 Zhao Y,Kwoh C K. Proceedings of the 17th International Conference onPattern Recognition . 2004

← 1 →