一类训练前馈神经网络的梯度算法及收敛性

被引:5
作者
邵红梅 [1 ]
安凤仙 [2 ]
机构
[1] 中国石油大学数学与计算科学学院
[2] 淮阴工学院数理学院
关键词
前馈神经网络; 收敛性; 变学习率; 梯度算法;
D O I
暂无
中图分类号
TP183 [人工神经网络与计算];
学科分类号
081104 ; 0812 ; 0835 ; 1405 ;
摘要
为加速网络训练,给出学习率的一种更广泛的选取方式,并从理论上证明这类新的变学习率的梯度学习算法的收敛性和训练过程中误差函数的单调递减性。
引用
收藏
页码:176 / 178+184 +184
页数:4
相关论文
共 6 条
[1]   基于小波神经网络的自适应控制器设计 [J].
蔡吉刚 ;
李树荣 ;
王平 .
中国石油大学学报(自然科学版), 2007, (05) :141-143+147
[2]   CONVERGENCE OF ONLINE GRADIENT METHOD WITH A PENALTY TERM FOR FEEDFORWARD NEURAL NETWORKS WITH STOCHASTIC INPUTS [J].
邵红梅 ;
吴微 ;
李峰 .
NumericalMathematicsAJournalofChineseUniversities(EnglishSeries), 2005, (01) :87-96
[3]   Training multilayer perceptrons via minimization of sum of ridge functions [J].
Wu, W ;
Feng, GR ;
Li, X .
ADVANCES IN COMPUTATIONAL MATHEMATICS, 2002, 17 (04) :331-347
[4]  
神经网络计算.[M].吴微编著;.高等教育出版社.2003,
[5]  
神经网络设计.[M].(美)MartinT.Hagan等著;.机械工业出版社.2002,
[6]  
最优化理论与方法.[M].袁亚湘;孙文瑜著;.科学出版社.1997,