基于信赖域Newton算法的ELM网络

被引:4
作者
韩敏
王新迎
机构
[1] 大连理工大学电子信息与电气工程学部
关键词
极端学习机; 信赖域Newton法; 共轭梯度法; 回归;
D O I
暂无
中图分类号
TP183 [人工神经网络与计算];
学科分类号
140502 [人工智能];
摘要
针对极端学习机(ELM)网络伪逆输出权值计算方法的运算复杂度制约其训练速度问题,提出一种基于信赖域Newton算法的新型ELM网络(TRON-ELM),并采用信赖域Newton算法求解ELM网络的输出权值.该算法首先构造一个ELM网络代价函数的Newton方程,并将其作为一个无约束优化问题,采用共轭梯度法求解,避免了求代价函数Hessian矩阵逆的运算,提高了训练速度,信赖域条件的存在保证了算法的整体收敛性.仿真实验结果验证了所提出方法的有效性.
引用
收藏
页码:757 / 760
页数:4
相关论文
共 5 条
[1]
ESN岭回归学习算法及混沌时间序列预测 [J].
史志伟 ;
韩敏 .
控制与决策 , 2007, (03) :258-261+267
[2]
基于种群小生境微粒群算法的前向神经网络设计 [J].
王俊年 ;
申群太 ;
周少武 ;
沈洪远 ;
不详 .
控制与决策 , 2005, (09) :981-985+991
[3]
多层前向神经网络的快速学习算法及其应用 [J].
叶军 ;
张新华 .
控制与决策, 2002, (S1) :817-819
[4]
Extreme learning machine: Theory and applications[J] Guang-Bin Huang;Qin-Yu Zhu;Chee-Kheong Siew Neurocomputing 2006,
[5]
A survey of truncated-Newton methods[J] Stephen G. Nash Journal of Computational and Applied Mathematics 2000,